NVIDIA выпустила Nemotron 3.5 — модель на 74 млрд для видеокарты с 24 ГБ

Nemotron — собственное семейство открытых моделей NVIDIA . Компания выпускает их как основу, которую бизнес может дообучить под себя, и как витрину своего железа. Поколение 3.5 нацелено на ИИ-агентов, то есть программы, которые сами выполняют многошаговые задачи. Bolt рассчитана на домашний компьютер, Super VL на работу с документами в компаниях. Вместе с весами NVIDIA открыла обучающие данные и рецепты обучения.

Bolt 74B на одной видеокарте

Nemotron 3.5 Bolt 74B-A9B — модель для локальных агентов. Она пишет код, ищет информацию в интернете и выполняет задачи в несколько шагов, не отправляя данные в облако. Всего в ней 74 млрд параметров, но на каждый фрагмент текста работают только 9 млрд. Модель устроена как «смесь экспертов», где под задачу включаются нужные подсети, и поэтому отвечает быстрее, чем подсказывает её размер.

Главный трюк Bolt — сжатие. NVIDIA выпускает модель сразу ужатой до 2 бит на параметр, поэтому она помещается в 24 ГБ памяти и оставляет место другим программам. Столько видеопамяти у RTX 4090. Ещё Bolt рассчитана на компактный суперкомпьютер DGX Spark и ноутбуки на платформе RTX Spark, которые NVIDIA выводит в продажу 16 октября.

Bolt 74B-A9B поддерживают с первого дня Ollama, LM Studio, llama.cpp, Unsloth и vLLM. Установка привычная, в пару кликов, без ручной сборки.

Bolt по тестам NVIDIA

NVIDIA называет Bolt лучшей открытой моделью своего класса в тесте PinchBench, который проверяет агентов на практических задачах. В BrowseComp, где модель ищет трудно находимые факты в интернете, Bolt заняла второе место среди открытых моделей.

Здесь нужно оговориться. Конкретных цифр по Bolt NVIDIA не опубликовала, только места в рейтинге. Насколько сильно сжатие до 2 бит бьёт по качеству, покажут первые независимые замеры.

Super VL читает документы

Nemotron 3.5 Super VL — старшая модель поколения на 120 млрд параметров, из которых одновременно работают 12 млрд. Она понимает PDF, графики, таблицы, скриншоты веб-страниц и видео до двух минут, умеет пользоваться инструментами и выполнять инструкции. Контекст достигает миллиона токенов, в него помещается пачка договоров или длинный технический отчёт.

Внутри Super VL сочетает обычные слои внимания с блоками Mamba-2, архитектуры, которая экономнее расходует память на длинных текстах. Сжатая версия NVFP4 запускается на одном DGX Spark, одном ускорителе H200 или паре H100. По замеру Artificial Analysis модель выдаёт около 625 токенов в секунду, NVIDIA называет её до пяти раз быстрее сопоставимых открытых моделей.

Сильные и слабые цифры

NVIDIA опубликовала результаты Super VL по десятку тестов. Самые показательные из них:

• GPQA-Diamond (научные вопросы уровня аспирантуры) — 89,9;
• SWE-bench Verified (исправление ошибок в реальных программных проектах) — 71,07;
• CharXiv (понимание графиков из научных статей) — 79,88;
• MMLongBench-Doc (ответы по длинным документам) — 62,82;
• OSWorld-Verified (самостоятельная работа за компьютером) — 52,3;
• BrowseComp (поиск сложной информации в интернете) — 77,5.

В сводном рейтинге Artificial Analysis картина скромнее. Super VL набирает около 26 баллов и уступает китайским GLM-5.3-Flash с 42 и Qwen3.8-Flash-Next с 40. Рейтинг не учитывает работу с картинками, где Super VL сильнее всего, но разрыв в общих способностях всё равно заметный.

Победа над Claude после дообучения

Громкий тезис релиза — Super VL обходит Claude Opus 5 и GPT-6.1 Sol. Касается он версий Super VL, которые партнёры NVIDIA дообучили под пять узких задач, от разбора документов до проверки страховых заявлений. Дообучение подняло результат модели на 9–44%.

Пример с медицинскими страховыми заявлениями. Базовая Super VL правильно обрабатывала около 28% случаев, после дообучения — около 72%, а Claude Opus 5 справлялся примерно с 38%. В тесте на устойчивость к атакам результат вырос с 35% до 76% против примерно 66% у GPT-6.1 Sol.

NVIDIA не раскрыла, как устроены эти задачи, сколько в них примеров и как проходило тестирование. Сравнение показывает, что открытую модель, дообученную на своих данных, можно довести до уровня, где она в узкой задаче обгоняет универсальный флагман. О превосходстве Super VL над Claude и GPT в целом эти цифры не говорят.

Лицензия OpenMDW и открытые рецепты

Модели Nemotron 3.5 выходят под лицензией OpenMDW-1.1, которая разрешает коммерческое использование, дообучение и распространение. NVIDIA выложила и то, на чём модели учились: наборы данных, рецепты обучения и среды для обучения с подкреплением. Компаниям, которые захотят поддержку NVIDIA в продакшене, предлагают подписку NVIDIA AI Enterprise за 4500 долларов в год на один ускоритель. Это плата только за программное обеспечение, без серверов и их обслуживания.

Где взять Nemotron 3.5

Веса Bolt 74B-A9B и Super VL лежат на Hugging Face, в том числе в форматах для локального запуска. Bolt проще всего поставить через Ollama или LM Studio. Super VL доступна по API на OpenRouter и у нескольких облачных провайдеров, у Together AI миллион входящих токенов стоит 0,15 доллара, исходящих — 0,5 доллара. Для разработки NVIDIA даёт бесплатный API с ограничением частоты запросов.

23 октября выйдет Bolt E4B размером 4 ГБ. Она рассчитана на голосовых помощников, интерактивных персонажей и агентов внутри устройств, от видеокарт GeForce RTX до плат Jetson.

Из России веса качаются с Hugging Face без проблем, локальный запуск через Ollama и LM Studio тоже работает. Для платного API провайдеров понадобится зарубежная карта.

Кому пригодится Bolt

Владельцам видеокарт с 24 ГБ памяти Nemotron 3.5 Bolt даёт агента, которому можно доверить код и документы без отправки в стороннее облако. Перед тем как строить на модели рабочий процесс, её стоит прогнать на своих задачах. NVIDIA не показала цифр, а сильное сжатие обычно сказывается на точности.

NVIDIA подгоняет модели под железо

Размеры моделей Nemotron 3.5 подобраны под линейку NVIDIA: 24 ГБ под RTX и Spark, сжатие NVFP4 под Blackwell, 4 ГБ под Jetson. Компания продаёт видеокарты через готовые сценарии их использования. Проверочная точка — независимые тесты Bolt в ближайшие недели и выход E4B 23 октября. Они покажут, стоит ли сжатый агент тех 24 ГБ, которые ему нужны.