ITGlobal запустил корпоративный шлюз к 50+ LLM - данные остаются в России

ITGlobal.com - международное облачное подразделение корпорации ITG, запустил AIaaS: корпоративный API-шлюз с единой точкой доступа к более чем 50 языковым моделям. Платформа развёрнута в российских дата-центрах компании и соответствует требованиям регуляторов по персональным данным.
ITGlobal запустил корпоративный шлюз к 50+ LLM - данные остаются в России

Запрос на подобный продукт давно висел в воздухе. Крупный бизнес хочет использовать нейросети, но массовый доступ сотрудников к публичным ChatGPT и ему подобным означает, что корпоративные данные утекают за периметр. Юридически это проблема: российское законодательство требует хранить и обрабатывать персональные данные граждан на серверах внутри страны. Фактически это тоже проблема: компании не могут контролировать, что именно сотрудники вводят в промпты.

Ответом ITGlobal.com стал управляемый шлюз - посредник, через который все запросы к нейросетям проходят централизованно.

50+ моделей, российских и зарубежных

Шлюз даёт доступ к более чем 50 языковым моделям. Список конкретных позиций компания публично не раскрывает, но указывает, что включены как российские, так и зарубежные модели, в зависимости от задачи и регуляторных ограничений.

Единая точка входа решает операционную проблему, которая выросла сама собой. Разные команды подключаются к разным сервисам, накапливаются разрозненные подписки, расходы размываются по бюджетам, а у ИТ-службы нет общей картины. Централизованный шлюз сводит всё это в одно место.

DLP, роли и логи в одном контуре

Ключевая техническая начинка - фильтрация DLP (Data Loss Prevention): система автоматически сканирует и промпты, и ответы моделей на предмет персональных данных и коммерческой тайны. Подозрительный контент блокируется до того, как уйдёт за периметр.

Дополнительно: ролевая модель доступа (разные права для разных сотрудников или отделов), квоты на использование, полное логирование запросов и встроенный биллинг. Последнее - удобная вещь для финансового контроля. Видно, кто сколько потратил и на какие модели.

«При внедрении LLM в процессы крупного бизнеса на первый план выходит не только выбор подходящих моделей, но и управляемость и защита данных. Если сотрудники используют публичные нейросети, резко возрастают риски утечки конфиденциальной информации», 

- отметил Евгений Свидерский, директор облачного бизнеса ITGlobal.com.

Базовый шлюз и Private AI Cloud - два разных класса

На выбор два формата.

  1. Базовый вариант - управляемый шлюз: подключаешься, распределяешь доступы, получаешь аналитику и идёшь работать. Минимум инфраструктурной возни, быстрый старт.
  2. Private AI Cloud - история для тех, кому базового недостаточно. Развёртывается в изолированном контуре. Можно подключить собственные модели или дообучить уже имеющиеся на корпоративных данных. Такой формат ориентирован на организации с высокими требованиями к информационной безопасности - банки, промышленность, государственные структуры.

Сервис доступен как отдельный продукт или в составе комплексных услуг ITGlobal.

Рынок, куда всё движется

По данным «Яков и Партнёры» совместно с Яндексом, к 2030 году экономический эффект от ИИ в России может составить 7,9–12,8 трлн рублей в год - до 5,5% прогнозного ВВП. Спрос на корпоративные ИИ-инструменты будет расти, и вопрос «как безопасно подключить сотрудников к нейросетям» встанет перед каждой крупной компанией.

Шлюзовой подход - не изобретение ITGlobal. Аналогичные решения предлагают Яндекс Cloud, SberCloud и ряд западных провайдеров. Конкурентное преимущество здесь строится на двух вещах: ширине каталога моделей и надёжности гарантий по локализации данных. Оба тезиса ITGlobal заявляет, но детальных технических подтверждений в открытом доступе пока нет.

Продукт существует - это факт. Насколько он зрелее конкурентов, покажут клиентские кейсы, которых на старте ещё нет.

21:55
141
Нет комментариев. Ваш будет первым!