Google приостанавливает работу чатбота Gemini после реакции на исторически недостоверные фотографии
Созданные AI картинки, отображающие англо-саксов в виде афроамериканцев, женщину в роли папы римского и коренных американцев среди основателей США, были признаны искажающими реальность.
Пользователи социальных сетей раскритиковали сервис Gemini за чрезмерную политкорректность и неудобство использования после того, как попытки создать репрезентативные изображения привели к искажённым результатам. Google объявил, что проблемы с функцией создания изображений в Gemini уже решаются.
«Мы приостановим создание изображений людей и вскоре выпустим улучшенную версию», — говорится в сообщении на платформе X.
Примеры включали в себя ИИ-сгенерированные изображения: чернокожего мужчину в образе Джорджа Вашингтона с париком и в форме, и женщину из Юго-Восточной Азии в одеянии Папы Римского, хотя все папы были белыми. Как выявил The Verge, Gemini также создал разнообразные образы немецких солдат времен нацизма, в том числе азиатку и афроамериканца в военной форме 1943 года.
Из-за отсутствия официальной информации о принципах работы чат-бота Gemini от Google, трудно понять причины его выдумывания исторических фактов. Профессор права из Корнельского университета и основатель Equal Protection Project Уильям Джейкобсон считает, что под предлогом борьбы с предвзятостью в системы заложена собственная предвзятость.
Проблема с алгоритмами может быть связана с методами обучения, используемыми Google для разработки инструмента обработки изображений Gemini. Эксперт Фабио Мотоки из Университета Восточной Англии, который в прошлом году вместе с коллегами опубликовал исследование, выявившее склонность чат-бота ChatGPT к левым идеологиям, указывает, что стремление к «безпристрастности» в результате может приводить к внедрению предвзятости через установление квотоподобных целей.
Мотоки в беседе с изданием «The Post» подчеркнул особенности обучения с подкреплением от человека (RLHF). Он объяснил, что в процессе такого обучения люди направляют модель, указывая ей на верные и неверные действия. Это влияет на формирование функции вознаграждения или, точнее, функции потерь модели. Мотоки заметил, что выбор людей, которых привлекает Google, и инструкции, которые им даются, могут сыграть решающую роль в данном вопросе.
Крупный просчет произошел с крупнейшим поисковиком, который недавно обновил свой главный искусственный интеллект, переименовав его в Bard и добавив ряд нововведений, в том числе создание изображений. Ошибка случилась вскоре после того, как OpenAI , разработчик известного ChatGPT, выпустил инструмент Sora для генерации видео по текстовым запросам пользователя.
Google признало, что поведение их чатбота нестабильно и требует исправлений. Джек Кравчик, директор по продуктам компании, в интервью заявил: «Мы активно работаем над улучшением этого аспекта. Искусственный интеллект Gemini способен создавать образы разнообразных людей, что важно, учитывая глобальную аудиторию сервиса. Однако в данной ситуации мы не достигли желаемого результата».
Обращение издания к Google за дополнительными комментариями осталось без ответа. В ответ на запрос предоставить правила работы с требованиями безопасности, компания Gemini признала, что эти правила не разглашаются из-за «технических сложностей и соображений интеллектуальной собственности». Критерии, которыми руководствуется Google Gemini, не опубликованы. В своих ответах чат-бот также признал осведомленность о «замечаниях, что Gemini возможно уделяет чрезмерное внимание искусственному разнообразию при генерации изображений, что приводит к исторически неверным изображениям».
Google отметил, что алгоритмы моделей создания изображений сложны и находятся на стадии совершенствования. Они могут не улавливать тонкости исторических обстоятельств и культурных особенностей, что приводит к недочетам в результатах.
