ИИ-агент

ИИ-агент — программа на основе языковой модели, которая получает цель и сама выбирает шаги для её достижения. От обычного чат-бота агент отличается доступом к инструментам, он умеет искать в интернете, читать и править файлы, запускать код и обращаться к внешним сервисам через API. Работает циклами, то есть делает шаг, смотрит на результат и решает, что делать дальше, пока задача не закрыта или не кончится отведённый лимит. Отсюда и главные риски. Агент с широкими правами способен выйти за рамки задания, а данные, которые он читает, могут содержать спрятанную команду — это называется промпт-инъекцией . Ограничивают агентов узкими правами доступа и запуском в песочнице .