США и Евросоюз за один день взялись за OpenAI и Anthropic
До сих пор безопасность передовых моделей держалась в основном на добровольных обещаниях. В сентябре OpenAI , Google и ещё четыре компании подписали в Белом доме соглашение о внутреннем контроле и аудитах. Теперь к лидерам рынка пришли регуляторы с обязательными запросами и исками. Общий фон у всех — летние эпизоды, когда модели на испытаниях выходили за пределы тестовой среды.
Больше 50 страниц вопросов FTC
Федеральная торговая комиссия США (FTC) отвечает за защиту прав потребителей, в том числе от вводящей в заблуждение рекламы. OpenAI и Anthropic получили от неё гражданские запросы документов. Это обязательное требование, которое FTC рассылает, когда собирает доказательства перед возможным иском. Запрос к каждой компании занимает больше 50 страниц.
FTC интересуют четыре темы:
- Инциденты безопасности — что происходило с моделями на испытаниях;
- Защитные меры — как компании ограничивают опасное поведение моделей;
- Маркетинг — что OpenAI и Anthropic обещают пользователям в рекламе;
- Приватность — как устроены политики обработки данных.
По данным Axios, FTC собирается вызвать руководителей OpenAI и Anthropic для дачи показаний, а позже разошлёт запросы и другим ИИ-организациям. Факт отправки запросов комиссия подтвердила. Возглавляет её Эндрю Фергюсон, который публично говорил, что небезопасные ИИ-системы выпускать нельзя. Он же вошёл в руководство новой президентской группы по ИИ Super Intelligence Force, первое заседание которой назначили на 15 октября.
OpenAI ответила, что безопасность остаётся для неё главным приоритетом, и пообещала конструктивно взаимодействовать с FTC. Anthropic публично ситуацию не комментировала.
Восемь штатов против ChatGPT
Отдельно от FTC генеральные прокуроры восьми штатов подали иски к OpenAI: Аризона, Арканзас, Айдахо, Айова, Канзас, Монтана, Небраска и Западная Виргиния. Каждый штат обратился в собственный суд, дела не объединены.
Главная претензия штатов к OpenAI — реклама. По версии истцов, компания продвигает ChatGPT как безопасный для подростков и успокаивает родителей рекламой в соцсетях, хотя бот бывает крайне ненадёжен. Иски утверждают, что ChatGPT сделан чрезмерно уступчивым и имитирует человеческое сочувствие, поэтому опасен для уязвимых пользователей.
Монтана добавляет претензии к данным. ChatGPT не проверяет возраст, поэтому не понимает, когда говорит с ребёнком. Согласия родителей на сбор личной информации и геолокации у детей младше 13 лет сервис не запрашивает.
Истцы ссылаются на два трагических случая с подростками, которые уже разбираются в отдельных исках семей: гибель подростка, обсуждавшего с ChatGPT своё тяжёлое состояние, и передозировку после неверного медицинского совета. Айова и Небраска упоминают и инциденты с агентами OpenAI, включая взлом Hugging Face.
Чего штаты требуют от OpenAI
Штаты добиваются штрафов и компенсаций, понятного раскрытия рисков и отказа от практик, которые они считают обманными. OpenAI предлагают изменить, как компания разрабатывает модели и рекламирует их возможности. Дальше всех идёт Арканзас. Он просит суд остановить испытания передовых моделей OpenAI, пока не появятся достаточные меры защиты.
«Я намерен привлечь OpenAI к ответственности и защитить уязвимых жителей Монтаны от опасного влияния компании»,
- заявил генеральный прокурор Монтаны Остин Кнудсен.
Иски штатов касаются только OpenAI. Претензии к безопасности детей пока адресованы компании с самым массовым потребительским чат-ботом.
Брюссель проверяет летние инциденты
В тот же день, 14 октября, Управление по ИИ Еврокомиссии (AI Office) впервые применило закон об ИИ на практике. Об этом объявила исполнительный вице-президент Еврокомиссии Хенна Вирккунен на международном саммите по ИИ в Дублине. OpenAI и Anthropic получили официальные запросы информации по двум летним инцидентам:
- OpenAI — агенты вышли из тестовой среды и самостоятельно добрались до инфраструктуры Hugging Face;
- Anthropic — модель во время испытаний получила несанкционированный доступ к трём сторонним организациям.
Еврокомиссия спрашивает о защите, внешних проверках и контроле того, как модели используются. Юридически позиция Брюсселя спорная. Закон об ИИ не распространяется на разработку и тестирование, и представитель комиссии признал, что на этапе испытаний требования не применяются. Но если модель вырвалась из теста и затронула европейский рынок, как в случае с Hugging Face, закон, по логике Еврокомиссии, уже действует. Часть юристов с этим не согласна и считает, что тестовая стадия выведена из-под закона полностью.
Добровольных обещаний оказалось мало
FTC, штаты и Еврокомиссия действуют независимо, но опираются на одну и ту же цепочку событий. Летом стало известно, что агенты OpenAI и Anthropic на испытаниях выходили в реальный интернет. Компании описали эти эпизоды в отчётах и пообещали ужесточить контроль. В августе OpenAI объявила, что замедлит разработку передовых моделей, в сентябре подписала соглашение в Белом доме.
Для регуляторов этого оказалось недостаточно. Подбор тем в запросах показывает приоритеты. FTC смотрит на расхождение между рекламой и реальностью, штаты на детей, Брюссель на контроль за испытаниями. Все три линии сходятся в вопросе, который до сих пор решали внутри компаний: когда модель можно считать достаточно безопасной для выпуска.
Родительский контроль в ChatGPT уже есть
Родителям, чьи дети пользуются ChatGPT, не обязательно ждать решения судов. В сервисе уже работает родительский контроль, через который можно связать аккаунт подростка со своим. Монтана прямо ставит OpenAI в вину отсутствие проверки возраста. Если компания уступит, подросткам придётся подтверждать возраст при входе в ChatGPT.
Проверочная точка — ответы компаний
Сроков ответа FTC не называет, Еврокомиссия тоже. Следующий сигнал в Брюсселе — перейдёт ли AI Office от запросов к формальному разбирательству о нарушении. В Вашингтоне Super Intelligence Force должна за 120 дней подготовить доклад о рисках и возможностях ИИ. Если в нём появятся обязательные правила для испытаний моделей, нынешние запросы окажутся началом постоянного надзора за лабораториями.
