Alibaba представила Qwen3-Next — гибридную нейросеть нового поколения
Китайская компания Alibaba анонсировала очередное пополнение в своей линейке языковых моделей, представив Qwen3-Next. Новая разработка является важным шагом в создании более эффективных систем искусственного интеллекта, способных решать сложные задачи при сниженных затратах на обучение и эксплуатацию.
Гибридная архитектура и эффективность
В основе Qwen3-Next-80B-A3B лежит архитектура «Mixture of Experts» (смесь экспертов), сокращенно MoE. Модель насчитывает 80 миллиардов параметров, однако в каждый момент времени для обработки запроса активируется лишь небольшая их часть — около 3 миллиардов. Такой подход позволяет существенно оптимизировать вычисления, делая модель более экономичной без потери в качестве.
Ключевой особенностью стала гибридная система внимания, которая объединяет технологии Gated DeltaNet и Gated Attention. Это позволяет нейросети одинаково эффективно работать как с короткими, так и с длинными фрагментами текста. По заявлениям разработчиков, производительность при обработке контекста длиной свыше 32 тысяч токенов возрастает до 10 раз по сравнению с предыдущими версиями. Дополнительно реализован механизм multi-token prediction, который ускоряет генерацию ответа за счет одновременного предсказания нескольких токенов.
Внутренние тесты Alibaba показали, что новая модель превосходит по качеству работы Qwen3-32B, при этом затраты на ее обучение оказались почти в десять раз ниже. Это делает ее привлекательным решением для разработчиков, которые ищут баланс между мощностью и доступностью ресурсов.
Стратегическое значение и планы на будущее
Эксперты полагают, что Qwen3-Next может стать своего рода испытательным полигоном для новых архитектурных решений, сочетающих модели состояний (SSM) и традиционные механизмы внимания. В случае успеха этого эксперимента, Alibaba планирует применить аналогичный подход к созданию гораздо более крупных моделей — с числом параметров от 400 миллиардов и выше.
В ближайшее время компания также обещает выпустить специализированную версию Qwen3-Next-80B-A3B-Thinking, которая будет ориентирована на глубокие логические рассуждения и решение нетривиальных задач.
Этот релиз в очередной раз подчеркивает растущую конкуренцию в сфере открытых моделей ИИ. Alibaba последовательно развивает свою серию Qwen, которая уже включает в себя как компактные нейросети, так и сверхбольшие системы. Qwen3-Next обещает стать доступным и мощным инструментом для исследований, разработки приложений и интеграции в облачные сервисы, способствуя дальнейшему прогрессу в области искусственного интеллекта.
