Moonshot AI остановила продажу подписок Kimi: спрос на K3 исчерпал GPU-мощности
Спрос обогнал закупку железа
В официальном аккаунте Moonshot написали, что за первые 48 часов после релиза K3 нагрузка почти выбила компанию из текущей вычислительной ёмкости - «GPUs are feeling it». Продажу новых подписок поставили на паузу, чтобы не просаживать качество сервиса для тех, кто уже платит. Действующим подписчикам обещают приоритет по ресурсам, новые слоты - открывать партиями по мере наращивания мощностей.
Формулировка аккуратная, суть простая. У Moonshot не хватает карт под собственный флагман.
Подписку делят на два тарифа
Вместе с паузой компания анонсировала разделение платного доступа. Kimi Membership покрывает веб, мобильное приложение и десктопный Kimi Work. Kimi Code Membership - отдельный тариф под задачи разработки.
Логика прозрачная. Агентные кодинг-сессии с длинным горизонтом сжигают в разы больше вычислений, чем обычная переписка в чате, и в общем пуле один класс нагрузки начинает съедать другой. Разделение позволяет развести сценарии по разным лимитам. Побочный эффект для пользователя - тем, кому нужно и то, и другое, скорее всего придётся платить дважды.
Модель на 2,8 триллиона параметров
K3 - модель с 2,8 трлн параметров, окном контекста в миллион токенов и нативной работой с текстом, изображениями и видео. Архитектура построена на схеме Mixture-of-Experts: из 896 «экспертов» под каждый запрос активируются только 16. Схема экономит вычисления на генерации, но веса всё равно нужно держать в памяти целиком, и одна работающая копия модели занимает не одну стойку.
Цены API компания заявила заметно ниже западных флагманов: 3 доллара за миллион входных токенов, 0,30 доллара при попадании в кэш, 15 долларов за миллион выходных. Судя по происходящему, при таком трафике эти цены дешевле не только для клиентов, но и относительно того, что Moonshot реально может обслужить.
Тред разошёлся на два лагеря
Под постом набежали сотни ответов. Часть аудитории засчитала паузу как честный ход: компания отказывается брать деньги там, где не может гарантировать качество. Другая часть жёстче - вывод продукта на массовый рынок без решённого масштабирования называют обманом пользователей.
Отдельная ветка обсуждения ушла в экономику. Одна из реплик формулирует это точно: все говорят о дешёвых моделях, а на практике главным узким местом остаётся compute - доступные вычислительные мощности. Там же спрашивают, кто выиграет от дефицита GPU и как ситуация бьётся с сообщениями о том, что у Meta мощности, наоборот, в избытке. Есть и сожаления от тех, кто не успел оформить план за 40 долларов в месяц.
27 июля покажет масштаб проблемы
Полные веса K3 Moonshot обещает выложить 27 июля. Если к этому моменту подписки всё ещё будут закрыты, дефицит собственных мощностей сработает как аргумент в пользу открытой лицензии: спрос уйдёт к сторонним провайдерам и в самостоятельные развёртывания, а компания потеряет часть выручки со своего же релиза. Возможность запустить модель мимо перегруженного сервиса разработчика - редкий случай, когда открытые веса выручают не идеологически, а вполне буднично.
