ИИ выходит за пределы LLM: Думейт представил инфраструктуру для создания агентных приложений

Компания «Думейт» представила  Дуфрейм — операционную среду для работы с большими языковыми моделями и создания ИИ-приложений. Платформа объединяет в одном контуре взаимодействие с LLM, управление инструментами, работу с контекстом, выполнение последовательностей действий и оценку результатов.

Разработчики называют Дуфрейм четвертым и ключевым технологическим продуктом экосистемы {do}. Его задача — отделить агентную инфраструктуру от прикладной логики и сделать один технологический контур повторно используемым для разных ИИ-приложений.

От вызова API к агентной архитектуре

Использование языковой модели в приложении долгое время сводилось к относительно простой схеме: приложение передает запрос в LLM и получает ответ. Для сложных прикладных сценариев такой архитектуры недостаточно.

Агенту необходимо самостоятельно выполнять последовательность действий: выбирать инструменты, обращаться к внешним данным, сохранять контекст, оценивать промежуточные результаты и повторять отдельные этапы при необходимости.

На практике это означает появление дополнительного программного слоя между прикладным приложением и языковой моделью. Его разработка требует отдельных механизмов для управления инструментами, контекстом, циклами выполнения, состояниями и оценкой результата. Дуфрейм предназначен именно для этого слоя

« Сегодня недостаточно просто подключить языковую модель к своему продукту. Для решения реальных прикладных задач нужен технологический контур, который умеет организовать работу модели: дать ей инструменты, определить последовательность действий, проверить результат и продолжить работу, если результат пока недостаточен. Именно этот слой мы и создавали в Дуфрейм », — говорит Юрий Чехович, основатель и генеральный директор «Думейт».

Одна инфраструктура — несколько прикладных продуктов

Архитектура Дуфрейм уже используется в продуктах экосистемы {do}.

В Думейт агентный контур отвечает за работу с документами и интерпретацию результатов проверки. Дутрейс использует его при работе с научными текстами и поддержке автора. Дуэйд применяет агентный подход для работы с программным кодом и другими задачами.

За последний месяц в ИИ-помощники Думейта, Дутрейса и Дуэйда поступило около 47 тыс. запросов . Более 45 тыс. завершились успешным выполнением.

За тот же период инфраструктура обработала свыше 30 млрд слов входящего контекста и сформировала около 150 млн слов в ответах .

По словам разработчиков, именно эксплуатация в собственных прикладных продуктах позволяет проверять агентную архитектуру на реальных нагрузках и сценариях до ее использования в сторонних проектах.

Модель можно менять, инфраструктура остается

Одна из задач Дуфрейм — не привязывать прикладное приложение к конкретной языковой модели.

Для быстрого запуска доступна конфигурация с моделью {do}. При разработке собственного решения можно подключить выбранную LLM или собственного провайдера. Для корпоративных сценариев предусмотрено локальное развертывание Дуфрейм в инфраструктуре заказчика.

Последний вариант особенно важен для проектов, где требования к данным исключают передачу рабочего контекста внешним сервисам. В on-premises-конфигурации агентный контур может работать внутри заданного ИТ-периметра организации.

Таким образом, архитектура Дуфрейм рассчитана на разные модели эксплуатации: от облачного сервиса до локального полностью закрытого корпоративного решения.

Агентная инфраструктура как самостоятельный слой ИТ

В «Думейт» рассматривают  Дуфрейм как базовый технологический компонент экосистемы {do} и одновременно как самостоятельную платформу для разработчиков.

« Наши прикладные продукты одновременно являются пользователями этой среды и площадкой для ее развития: реальные задачи Думейта, Дутрейса и Дуэйда позволяют нам постоянно совершенствовать агентный контур. Следующий шаг — дать эту инфраструктуру командам, которые хотят создавать собственные ИИ-приложения, не разрабатывая агентную среду с нуля », — отмечает Юрий Чехович.

С точки зрения архитектуры это означает переход от модели «приложение + LLM» к более сложной конструкции, в которой между прикладным уровнем и языковой моделью появляется самостоятельный агентный слой.

Именно этот слой в дальнейшем может стать одним из ключевых элементов корпоративного ИИ-стека: модель можно менять, прикладные сценарии — расширять, а агентную инфраструктуру — использовать повторно.