Meta: Llama 4 Maverick

Llama 4 Maverick 17B Instruct (128E) — высокопроизводительная мультимодальная языковая модель от Meta, построенная на архитектуре mixture-of-experts (MoE) с 128 экспертами и 17 млрд активных параметров на один проход (всего 400 млрд параметров). Она поддерживает многоязычный ввод текста и изображений и генерирует текст и код на 12 языках. Оптимизированная для задач, объединяющих анализ изображений и текста, Maverick дообучена по инструкциям для поведения в роли ассистента, рассуждения над изображениями и универсального мультимодального взаимодействия.

Модель обеспечивает нативную мультимодальность благодаря механизму early fusion и окну контекста размером 1 млн токенов. Обучение проводилось на тщательно отобранном наборе открытых, лицензированных и данных с платформ Meta объёмом около 22 трлн токенов, с отсечкой знаний на август 2024 года. Выпущенная 5 апреля 2025 года под лицензией Llama 4 Community License, Maverick подходит для исследовательских и коммерческих приложений, требующих продвинутого мультимодального понимания и высокой пропускной способности.