NVIDIA выпустила открытую телеком-модель Nemotron 3 LTM
NVIDIA строит телеком-направление вокруг открытых моделей, которые оператор может дообучить на своих данных и развернуть там, где нужно. Отчёт State of AI in Telecommunications фиксирует спрос на такой подход, а новый релиз даёт операторам готовую отправную точку вместо сборки модели с нуля.
Модель на 30 миллиардов параметров
Nemotron 3 Large Telco Model дообучила компания AdaptKey на открытых телеком-датасетах. Модель понимает отраслевую терминологию и разбирает рабочие процессы оператора, среди заявленных сценариев настройка сети и разбор клиентских инцидентов. Оператор получает открытую базовую модель, которую дальше адаптирует под свои сети, клиентов и регламенты.
Вместе с моделью NVIDIA выложила полный рецепт дообучения. Он описывает сквозной конвейер адаптации открытых моделей к данным конкретного оператора и опирается на открытые библиотеки NVIDIA NeMo. Рецепт важнее самой модели. Без него оператор получает веса, но не понимает, как довести их до рабочего состояния на своих данных.
SoftBank строит модель на открытой основе
SoftBank Corp. использует открытые модели как базу для своей SoftBank Large Telecom Model и постоянно её дорабатывает. Речь идёт о сетевых операциях, проектировании и общем управлении сетью.
«Открытые модели позволяют SoftBank Corp. опираться на быстрый прогресс глобальных фундаментальных моделей и применять знания о сети и операционный опыт, накопленные за многие годы»,
- сказал Раджив Куодли, главный научный сотрудник SoftBank Corp. и старший вице-президент SB Telecom America.
По его словам, компания широко использует открытые основы, включая модели NVIDIA Nemotron, для телеком-задач.
AT&T выбирает модель под задачу
AT&T строит подход вокруг подбора модели под каждую нагрузку по трём параметрам, производительности, стоимости и контролю. Открытые модели здесь один из элементов, а не единственный выбор.
«В AT&T мы считаем, что будущее ИИ не в выборе одной модели, а в разумном подборе под каждую нагрузку правильного сочетания производительности, стоимости и контроля»,
- сказал Энди Маркус, директор по данным и ИИ AT&T.
По его словам, с NVIDIA компания переносит эту стратегию выбора модели в рабочую эксплуатацию с нужными масштабом, надёжностью и управлением доступом.
Локальный ИИ для Индонезии
Индонезийский оператор Indosat Ooredoo Hutchison собрал семейство открытых моделей Sahabat-AI под свой язык и культуру. Операторы в разных странах могут дообучать открытые модели под местные языки и отрасли, а затем размещать их на своих платформах, чтобы клиенты пользовались ими напрямую или строили на них свои приложения.
«Для таких стран, как Индонезия, ценность открытых моделей выходит за рамки доступа к мощному ИИ. Речь об адаптации этого интеллекта к нашему языку, культуре, данным и реальным потребностям»,
- сказал Чираг Сукхадиа, директор по данным и ИИ Indosat Ooredoo Hutchison.
Платформа для рабочей эксплуатации
Одной модели для автономных телеком-операций мало. Операторам нужны конвейеры подготовки данных, которые обезличивают чувствительные записи и генерируют синтетические наборы с сохранением приватности. Нужна и платформа, превращающая открытые модели в управляемые агентные процессы.
NVIDIA закрывает этот слой продуктами NVIDIA AI Enterprise и NVIDIA Agent Toolkit. Платформа охватывает конвейеры данных, открытые модели, оркестрацию агентов, защищённые среды исполнения и симуляцию. Часть этих возможностей уже доступна, часть компания подаёт как основу для партнёрской экосистемы.
- Открытые модели. Семейство NVIDIA Nemotron даёт веса, обучающие данные и рецепты, включая речевые возможности для голосовых приложений.
- Дообучение. Рецепт на базе библиотек NeMo описывает сквозной конвейер адаптации модели под сети и процедуры оператора.
- Эксплуатация. AI Enterprise и Agent Toolkit отвечают за данные, оркестрацию агентов и защищённые среды исполнения.
Оператору, который присматривается к открытым моделям, релиз даёт конкретную точку входа. Можно взять Nemotron 3 LTM как базу, прогнать её через опубликованный рецепт на своих данных и сравнить результат с закрытыми моделями на своих задачах. Ключевой вопрос не в том, хватит ли открытой модели по качеству, а в том, готов ли оператор вкладываться в данные и инфраструктуру для её дообучения.
