NVIDIA и Google Cloud внедряют «агентный ИИ» на локальных серверах с полной защитой данных

Компании представили решение, позволяющее использовать модели Gemini с «агентным ИИ» на локальных серверах с максимальной защитой данных. Это важный шаг для бизнеса, работающего в условиях строгих требований к конфиденциальности и суверенитету данных.
NVIDIA и Google Cloud внедряют «агентный ИИ» на локальных серверах с полной защитой данных

Компания NVIDIA в сотрудничестве с Google Cloud анонсировала новый подход к использованию искусственного интеллекта в корпоративной среде. Теперь предприятия смогут запускать мощные модели Gemini от Google локально — на собственной инфраструктуре, основанной на новейших графических платформах NVIDIA Blackwell с поддержкой технологии конфиденциальных вычислений (Confidential Computing). Это решение обеспечивает защиту как пользовательских данных, так и самой модели ИИ от несанкционированного доступа.

Gemini локально: данные под контролем

С появлением Google Distributed Cloud с поддержкой NVIDIA Blackwell, компании смогут развернуть агентные ИИ-системы на своих серверах, не передавая чувствительные данные в облако. Это особенно актуально для отраслей с высокими требованиями к конфиденциальности — таких как здравоохранение, финансы и государственные структуры.

Технология NVIDIA Confidential Computing защищает как содержимое запросов пользователей к ИИ-модели, так и используемые данные для обучения или дообучения, исключая возможность утечки или вмешательства.

«Теперь наши модели Gemini доступны локально с прорывной производительностью платформы NVIDIA Blackwell и её возможностями конфиденциальных вычислений. Это открывает бизнесу доступ к настоящему потенциалу агентного ИИ без компромиссов по безопасности и удобству», — заявил Сачин Гупта, вице-президент Google Cloud.

Что такое агентный ИИ и зачем он нужен бизнесу

Агентный ИИ (agentic AI) — это новый класс ИИ-систем, способных не просто анализировать и генерировать контент, но и самостоятельно принимать решения, адаптироваться к изменениям, выполнять задачи и взаимодействовать с другими системами.

Примеры использования:

  • В ИТ-поддержке: такой ИИ может сам диагностировать и устранять проблемы, эскалировать инциденты без участия человека.
  • В финансах: система способна предотвратить мошенничество, заблокировав транзакции ещё до их выполнения и оперативно меняя алгоритмы распознавания угроз.

Эти возможности позволяют повысить автономность бизнес-процессов и сократить время отклика на критические события.

Решение для тех, кому нельзя в облако

До этого момента ИИ с агентной логикой был в основном доступен в облачных средах, что ограничивало его использование в организациях с требованиями к суверенитету данных. Новая платформа от NVIDIA и Google Cloud меняет правила игры: теперь даже самые защищённые ИТ-инфраструктуры могут работать с мощным ИИ без риска утечек.

Основанная на платформе NVIDIA HGX B200 с графическими процессорами Blackwell и системой конфиденциальных вычислений, технология предоставляет максимальную безопасность при высокой энергоэффективности и производительности.

Контроль, масштабируемость и безопасность

Одновременно Google Cloud анонсировала новый GKE Inference Gateway — шлюз для запуска ИИ-инференсов, обеспечивающий интеллектуальную маршрутизацию, масштабируемость и централизованное управление безопасностью моделей. Он интегрируется с NVIDIA Triton Inference Server и NVIDIA NeMo Guardrails, что упрощает развёртывание и обслуживание моделей ИИ.

Также Google работает над расширением возможностей наблюдаемости для агентного ИИ с помощью библиотеки NVIDIA Dynamo, открытого инструмента для масштабирования reasoning-моделей в ИИ-фабриках.

Посетители конференции Google Cloud Next смогут увидеть работу решений вживую, пообщаться с экспертами NVIDIA и ознакомиться с демо-материалами.

07:45
434
Нет комментариев. Ваш будет первым!