OpenAI разрабатывает технологию "водяных знаков" для выявления текстов ChatGPT
OpenAI, создатель так полюбившегося всеми чат-бота, подтвердила, что ведет исследования в области цифровых водяных знаков для текстов, генерируемых искусственным интеллектом. Это заявление последовало за публикацией на популярном ресурсе, где утверждалось, что компания уже разработала инструмент для выявления текстов, созданных ChatGPT, но пока медлит с его выпуском.
Инструмент OpenAI способен с высокой точностью определять материалы, написанные нейросетью. Однако внутренние дебаты о целесообразности его выпуска пока не позволяют технологии выйти в свет. В воскресном обновлении майского поста в блоге компании, OpenAI сообщила:
«Наши команды разработали метод текстовых водяных знаков, который мы продолжаем рассматривать, исследуя альтернативы».
Преимущества и ограничения технологии
OpenAI отмечает, что водяные знаки – лишь один из нескольких подходов, наряду с классификаторами и метаданными, которые компания изучает в рамках «обширных исследований в области определения происхождения текста». По словам разработчиков, метод показал высокую точность в определенных ситуациях, но его эффективность снижается при некоторых видах вмешательства в текст, таких как например, использование переводчиков, перефразирование с помощью другой генеративной модели или внесение специальных символов между словами с последующим их удалением.
Кроме того, в OpenAI обеспокоены тем, что технология водяных знаков может «непропорционально затронуть некоторые группы пользователей». Например, она может создать негативное восприятие к использованию чат-бота в качестве полезного инструмента для написания текстов людьми, для которых английский не является родным языком. Это может привести к несправедливой критике или предубеждению против таких пользователей, хотя они применяют нейросеть как вспомогательный инструмент в своих работах или учёбе.
Этические вопросы и перспективы технологии
OpenAI серьезно подходит к оценке рисков, связанных с внедрением технологии цифровых водяных знаков. Компания понимает, что такой инструмент может иметь далеко идущие последствия, и поэтому тщательно взвешивает все "за" и "против" перед его возможным выпуском.
Параллельно с этим компания сообщила, что уделяет особое внимание разработке инструментов для проверки подлинности аудио и видеоматериалов. Это связано с растущей обеспокоенностью по поводу распространения генеративного контента, созданных с помощью нейросетей.
Представитель OpenAI в беседе с журналистами подчеркнул, что компания придерживается осторожного подхода к вопросу определения авторства текстов. Это объясняется сложностью проблемы и возможным влиянием такой технологии не только на пользователей продуктов OpenAI, но и на всю сферу искусственного интеллекта в целом.
В научном и образовательном сообществах продолжаются активные обсуждения этических аспектов использования ИИ для создания текстов. Многие эксперты считают крайне важным разработку надежных способов выявления сгенерированного контента. Особенно остро этот вопрос стоит в сфере образования, где использование нейросетей для выполнения домашних заданий и написания курсовых работ вызывает серьезную обеспокоенность у преподавателей.
Несмотря на все сложности, разработка подобных технологий может стать важным шагом в регулировании использования ИИ и обеспечении честности в академической среде. Однако необходимо найти баланс между защитой от недобросовестного использования ИИ и сохранением возможностей для его полезного применения в качестве вспомогательного инструмента.
