Ling-1T — это языковая модель с триллионом параметров и открытыми весами, разработанная inclusionAI и выпущенная под лицензией MIT. Она представляет собой первую флагманскую модель серии Ling 2.0 без встроенных механизмов «мышления», построенную на архитектуре разреженной активации с примерно 50 млрд активных параметров на токен. Модель поддерживает контекст длиной до 128 тыс. токенов и делает упор на эффективное рассуждение благодаря стратегии обучения «Эволюционная цепочка рассуждений» (Evolutionary Chain-of-Thought, Evo-CoT).
Предварительно обученная на более чем 20 трлн токенов, насыщенных рассуждениями, Ling-1T демонстрирует высокие результаты в бенчмарках по генерации кода, математике и логическому выводу, сохраняя при этом высокую эффективность инференса. В обучении используются смешанная точность FP8, маршрутизация MoE с нормализацией QK и MTP-слои для стабильности композиционного рассуждения. Кроме того, модель внедряет метод LPO (Linguistics-unit Policy Optimization) для послетренировочного выравнивания, усиливающего семантический контроль на уровне предложений.
Ling-1T способна генерировать сложные тексты, выполнять многоязычные рассуждения и синтезировать фронтенд-код, сосредотачиваясь как на функциональности, так и на эстетике.
