Moonshot AI открыла веса Kimi K3 - 2,8 трлн параметров и весь стек вокруг них

Moonshot AI выложила в открытый доступ веса Kimi K3, MoE-модели на 2,8 трлн параметров, под лицензией Modified MIT. Вместе с весами компания открыла технический отчёт и три инфраструктурных проекта, на которых модель обучалась.
Moonshot AI открыла веса Kimi K3 - 2,8 трлн параметров и весь стек вокруг них

Kimi K3 - флагманская модель китайской Moonshot AI, анонсированная в середине июля и до сих пор доступная только через платный API. Теперь Kimi отдаёт наружу ту же модель, что стоит за подпиской. Веса лежат на Hugging Face, скачать их может кто угодно, коммерческое использование разрешено. Одновременно с релизом Moonshot опубликовала технический отчёт и открыла часть внутренней инфраструктуры обучения.

16 экспертов из 896

Kimi K3 построена как разреженная MoE-модель, где из 896 экспертов на каждый токен работают только 16, что даёт около 50 млрд активных параметров вместо всех 2,8 трлн. Такая схема позволяет держать огромную ёмкость знаний при вменяемой стоимости одного шага генерации.

Архитектурная новизна - механизм внимания Kimi Delta Attention и Attention Residuals. Первый меняет то, как модель работает с длинной последовательностью, второй - как информация проходит сквозь глубину сети. Вместе с переработанными данными и рецептом обучения это, по заявлению Moonshot, даёт примерно 2,5-кратный прирост эффективности масштабирования против прошлого поколения K2. Moonshot формулирует это как «больше интеллекта на единицу вычислений». Редкий случай, когда маркетинговый слоган совпадает с содержанием технического отчёта.

Контекст - 1 млн токенов, зрение встроено нативно, без отдельного адаптера.

Четвёртое место и первое среди открытых

В Artificial Analysis Intelligence Index Kimi K3 набрала 57 баллов. Это уровень Claude Opus 4.8 и GPT-5.5, но ниже Claude Fable 5 и GPT-5.6 Sol. Среди моделей с открытыми весами разрыв заметнее: GLM-5.2 держит 51, DeepSeek V4 Pro - 44.

Отдельно сильно выглядят агентные и кодовые замеры:

  • GDPval v2 - рейтинг Elo 1668 против 1190 у предыдущей K2.6;
  • LMArena Frontend Code Arena - первое место;
  • слепые сравнения фронтенд-задач - 76 % побед над Claude Fable 5.

Здесь нужно оговориться. Победа на узкой арене фронтенда не переносится на общий интеллект автоматически, и сводный индекс это подтверждает: в конкретном классе задач Kimi K3 обходит закрытые флагманы, в среднем по больнице - идёт следом.

Artificial Analysis Intelligence Index Kimi K3

1,4 терабайта на диск

Главное ограничение релиза лежит не в качестве модели. Веса Kimi K3 занимают около 1,4 ТБ даже в формате MXFP4. Это железо уровня серверной стойки, а разговоры про локальный запуск фронтир-модели на домашнем компьютере пока остаются разговорами.

Реальный сценарий для большинства - арендованные мощности. День запуска Moonshot закрыла плотно: поддержку получили Together AI, Fireworks, DigitalOcean, Nebius Token Factory, Baseten и Modal, а vLLM выкатил оптимизированный инференс в день релиза.

Ядра, коммуникация и песочницы

Помимо весов Moonshot открыла три компонента стека, на которых Kimi K3 обучалась:

  • FlashKDA - CUDA-ядра на CUTLASS под Kimi Delta Attention, ускоряют обработку входного контекста в 1,72–2,22 раза относительно flash-linear-attention на GPU H20. Проект был открыт ещё в апреле.
  • MoonEP - библиотека для обмена данными между экспертами MoE при распределённом обучении.
  • AgentENV - платформа изолированных песочниц на Firecracker microVM, сделанная вместе с kvcache-ai. Даёт дешёвые снапшоты, паузу и ветвление окружений, что нужно для обучения агентов с подкреплением в промышленном масштабе.

AgentENV - самая недооценённая часть релиза. Обученного агента можно скачать у кого угодно, а вот инфраструктура, в которой агентов гоняют тысячами параллельных сессий, до сих пор оставалась внутренним ноу-хау лабораторий.

Три доллара за миллион токенов

Платный API Kimi K3 стоит 3 доллара за миллион входных токенов и 15 - за миллион выходных, кэшированный вход обходится в 30 центов. По расчёту Artificial Analysis, полный прогон индекса на Kimi K3 стоит в среднем 0,94 доллара за задачу против 1,04 у GPT-5.6 Sol и 1,80 у Claude Opus 4.8.

Открытые веса при таком прайсе работают как рычаг давления: Moonshot продаёт доступ дешевле американских флагманов и одновременно показывает, что за доступ можно вообще не платить, если есть железо.

Веса снимают вопрос о данных

Для российских и европейских команд открытые веса решают то, чего не решал API ни за какие деньги. Запросы к облачному Kimi уходят на китайские серверы, и для юристов многих компаний на этом разговор заканчивался. Скачанная модель работает в собственном контуре, и вопрос трансграничной передачи данных снимается целиком.

Проверочная точка - ближайшие два-три месяца. Если сообщество доведёт квантизацию до уровня, при котором K3 помещается в одну восьмикарточную ноду, открытый фронтир перестанет быть привилегией тех, у кого есть стойка. Если нет - релиз останется красивым жестом, которым воспользуются десятки команд, а не тысячи.

05:50
171
Нет комментариев. Ваш будет первым!