Google раскрыла подробности хакерских атак через нейросеть Gemini

Google провела расследование и выявила десятки хакерских групп, финансируемых государственными структурами, которые пытались использовать ИИ Gemini для различных целей — от написания вредоносного кода до улучшения фишинговых атак.

Самыми активными пользователями стали иранские хакеры — более 10 групп APT (Advanced Persistent Threat) использовали ИИ для анализа уязвимостей, создания контента и исследования оборонных организаций. В Китае было замечено более 20 таких групп, а в Северной Корее — 9. Ну и как же они могли обойти стороной Россию ? 

Несмотря на многочисленные попытки, Google заявляет, что хакеры не смогли достичь значительных успехов. Gemini в основном помогал им с переводами, объяснением сложных концепций и базовым кодированием, но встроенные ограничения заблокировали более опасные запросы.

В отчете Google приводятся конкретные примеры попыток использования Gemini:

• Иранские хакеры использовали ИИ для исследования уязвимостей и написания пропагандистского контента.
• Китайские группы запрашивали у Gemini советы по взлому аккаунтов и обходу проверок безопасности, но безуспешно.
• Северокорейские хакеры применяли ИИ для создания резюме и подготовки заявок на работу в американских IT-компаниях — вероятно, чтобы проникнуть в корпоративные сети.

«Некоторые злоумышленники безуспешно пытались использовать Gemini для получения инструкций по фишинговым атакам на Gmail, созданию вредоносных расширений для Chrome и обходу методов верификации Google», — говорится в отчете.

Компания подчеркивает, что ИИ не смог создать вредоносное ПО или какой-либо контент, который можно было бы использовать в серьезной кибератаке.Google отмечает, что Gemini действительно помогает киберпреступникам работать быстрее, но не дает им критических преимуществ. Фактически, ИИ просто служит производственным инструментом, ускоряя обработку информации и локализацию контента.

Аналогичные выводы ранее делала OpenAI: еще год назад она зафиксировала попытки государственных хакеров использовать ChatGPT, но также пришла к выводу, что ИИ не может радикально изменить методы кибератак.

Компания подчеркивает, что принимает меры по защите своих сервисов, регулярно проверяет их на возможные злоупотребления и сотрудничает с правоохранительными органами.

«Мы исследуем все случаи злоупотребления нашими продуктами и сервисами, в том числе вредоносную киберактивность со стороны спонсируемых государством угроз, и работаем с правоохранительными структурами при необходимости», — заявили в Google.

Судя по всему, корпорация активно блокирует подозрительную активность и пытается помешать хакерам использовать ее инструменты.