Модели Phi-3.5 — это легковесные открытые модели уровня state-of-the-art. Они обучены на наборах данных Phi-3, включающих синтетические данные и отфильтрованные общедоступные веб-источники, с упором на высокое качество и задачи, требующие глубоких рассуждений. Модель Phi-3.5 Mini имеет 3,8 млрд параметров и представляет собой плотный трансформер только с декодером, использующий тот же токенизатор, что и Phi-3 Mini.
Модели прошли строгую донастройку с учителем (supervised fine-tuning), проксимальную оптимизацию политики (proximal policy optimization, PPO) и прямую оптимизацию предпочтений (direct preference optimization) для точного следования инструкциям и обеспечения надёжных мер безопасности. В тестах на здравый смысл, понимание языка, математику, программирование, работу с длинными контекстами и логическое мышление модели Phi-3.5 показали стабильные передовые результаты среди моделей с числом параметров менее 13 млрд.
