ERNIE-4.5-VL-424B-A47B — мультимодальная модель Mixture-of-Experts (MoE) из серии ERNIE 4.5 компании Baidu. Общее число параметров составляет 424 млрд, из которых на каждый токен задействуется 47 млрд. Модель обучалась одновременно на текстовых и визуальных данных с использованием гетерогенной MoE-архитектуры и изолированной маршрутизации по модальностям, что обеспечивает точное кросс-модальное мышление, понимание изображений и генерацию в длинном контексте (до 131 000 токенов). Для тонкой настройки применялись методы SFT, DPO, UPO и RLVR, при этом модель поддерживает режимы вывода «с мышлением» и «без мышления». Предназначена для задач vision-language на английском и китайском языках, оптимизирована для эффективного масштабирования и может работать при квантизации 4-бит или 8-бит.
