Google сообщила о первом zero-day-эксплойте, созданном с помощью ИИ

Эксплойт для обхода 2FA нашли до массовой атаки

Google Threat Intelligence Group описала случай, который может стать заметным сигналом для всей индустрии кибербезопасности. По оценке компании, преступная группа использовала ИИ, чтобы найти уязвимость и превратить её в рабочий инструмент атаки.

Речь шла о Python-скрипте для обхода 2FA в популярном open-source инструменте веб-администрирования. Для атаки злоумышленникам всё равно нужны были действующие логин и пароль, поэтому это не был «взлом одной кнопкой». Но такой сценарий хорошо подходит для масштабных атак: если учётные данные уже украдены, обход второго фактора резко повышает шансы на успешный вход.

Google пишет, что работала с разработчиком затронутого продукта по процедуре ответственного раскрытия. Название инструмента и вендор в публичном отчёте не раскрыты. По данным SiliconANGLE, патч уже выпущен, а ошибки в самом эксплойте, вероятно, помешали успешному применению атаки.

Почему Google считает, что в коде помогал ИИ

Google заявляет о высокой уверенности, что ИИ-модель помогла преступникам найти уязвимость и оформить её в рабочий эксплойт. Исследователи указывают на признаки, похожие на код, сгенерированный LLM: слишком подробные комментарии, учебниковая структура Python-скрипта, встроенные подсказки для пользователя и даже выдуманная оценка серьёзности уязвимости.

Компания отдельно подчёркивает, что, по её оценке, Gemini в этом случае не использовался.

Здесь нужна аккуратность. Google не говорит, что ИИ сам провёл всю атаку от начала до конца. Более точная формулировка такая: модель, вероятно, помогла злоумышленникам быстрее разобраться в слабом месте продукта и собрать инструмент для его эксплуатации. Для рынка это уже тревожный факт: ИИ начинает снижать порог входа в задачи, которые раньше требовали более узкой экспертизы.

Ошибка была в логике доверия

Уязвимость возникла из-за неверного допущения в логике продукта. Проще говоря, система доверяла определённому элементу проверки больше, чем должна была, и из-за этого становился возможен обход 2FA.

Такие ошибки сложнее поймать обычными инструментами проверки кода. Программа может работать без сбоев, тесты могут проходить успешно, а явной «поломки» в коде не видно. Проблема проявляется в сценарии, где разработчик неправильно выстроил цепочку доверия: кто имеет право подтверждать вход, какие данные считаются надёжными и в какой момент проверка должна останавливаться.

Это неприятный тип уязвимостей для защитников. LLM умеют читать код и искать несостыковки в логике, а не только очевидные ошибки вроде падений или неправильной обработки данных. В руках исследователей безопасности это помогает чинить продукты заранее. В руках преступных групп ускоряет путь от найденной слабости до рабочего эксплойта.

ИИ ускоряет отдельные этапы атаки

Google описывает этот случай как часть более широкой картины. По данным компании, злоумышленники уже используют ИИ для поиска уязвимостей, написания вредоносного кода, разведки, социальной инженерии и информационных операций. Отдельно упоминается интерес к таким методам со стороны групп, связанных с Китаем и КНДР.

Главный риск здесь не в «самостоятельном хакере-ИИ». Опаснее другое: модели сокращают время на рутинные и сложные участки атаки. Они помогают быстрее читать чужой код, проверять гипотезы, писать вспомогательные скрипты и доводить идею до рабочего инструмента.

Для компаний это меняет цену старых ошибок. Уязвимость, которая раньше могла долго оставаться незамеченной, теперь быстрее превращается в практический риск. Особенно если речь идёт о корпоративном ПО, админ-панелях, инструментах удалённого доступа и системах, где один неверный шаг в логике авторизации открывает путь к аккаунтам.

Защита тоже становится гонкой моделей

Google подчёркивает, что ИИ используется и на стороне защиты. Компания развивает инструменты вроде Big Sleep для поиска уязвимостей и CodeMender от DeepMind для автоматического исправления проблем в коде. В отчёте сказано, что Big Sleep уже помог найти реальные уязвимости, включая такую, которую, по оценке Google, злоумышленники могли скоро использовать.

Слабое место всей истории - скорость. Исправление корпоративного ПО, обновление зависимостей и проверка старых систем часто занимают недели или месяцы. Генерация гипотез и прототипов атаки ускоряется. Поэтому главный вопрос теперь звучит просто: смогут ли разработчики и компании закрывать логические ошибки быстрее, чем атакующие будут превращать их в эксплойты.