OpenAI запускает прогнозирование возраста в ChatGPT для защиты подростков

Компания OpenAI объявила о запуске технологии прогнозирования возраста в ChatGPT. Решение направлено на то, чтобы определить, принадлежит ли аккаунт пользователю младше 18 лет, и в зависимости от этого применять соответствующие ограничения и защитные механизмы. Инициатива стала частью более широкой стратегии по обеспечению цифровой безопасности подростков и отражает подход, изложенный в программе Teen Safety Blueprint и принципах работы моделей с пользователями младше 18 лет.

По словам разработчиков, задача системы - найти баланс между защитой несовершеннолетних и сохранением полноценного пользовательского опыта для взрослых. Если пользователь указывает возраст до 18 лет при регистрации, дополнительные меры безопасности активируются автоматически. Прогнозирование возраста расширяет этот подход и позволяет выявлять такие аккаунты даже в тех случаях, когда возраст не был указан или был указан неверно.

Как работает прогнозирование возраста

В основе технологии лежит отдельная модель машинного обучения, анализирующая совокупность поведенческих и учетных сигналов. Среди них - срок существования аккаунта, характер активности в разное время суток, динамика использования сервиса, а также заявленный пользователем возраст. Ни один из этих факторов не используется изолированно: модель оценивает общую картину и выдает вероятностный прогноз.

OpenAI подчеркивает, что запуск системы - это не финальная версия, а начало процесса обучения. В ходе реального использования компания собирает обезличенные сигналы о точности прогнозов и на их основе дорабатывает модель.

Важно, что пользователи, которых система ошибочно отнесла к несовершеннолетним, могут быстро восстановить полный доступ. Для этого предусмотрена проверка возраста с помощью селфи через сервис Persona - внешнюю платформу для безопасной верификации личности. Проверить статус аккаунта и начать процедуру можно в разделе «Настройки → Аккаунт».

Какие ограничения применяются к аккаунтам подростков

Если модель предполагает, что аккаунт принадлежит пользователю младше 18 лет, ChatGPT автоматически включает дополнительные фильтры контента. Они направлены на снижение риска столкновения с потенциально вредными или чувствительными темами. В частности, ограничивается доступ к:

• сценам жестокого или натуралистичного насилия;
• вирусным челленджам, способным спровоцировать опасное поведение;
• сексуальным, романтическим или насильственным ролевым играм;
• описаниям самоповреждений;
• материалам, продвигающим экстремальные стандарты внешности, нездоровые диеты или бодишейминг.

Разработчики отмечают, что подход основан на научных исследованиях в области детского и подросткового развития. Он учитывает различия между взрослыми и подростками в восприятии риска, уровне импульсивности, влиянии со стороны сверстников и эмоциональной регуляции. Если системе не хватает данных для уверенного вывода, она по умолчанию выбирает более безопасный режим.

Родительский контроль и дополнительные меры

Помимо автоматических ограничений, родители могут вручную настраивать использование ChatGPT для своих детей. В числе доступных опций - установка «тихих часов», когда сервис недоступен, управление функциями памяти и обучения модели, а также получение уведомлений при выявлении признаков острого эмоционального неблагополучия.

Что дальше ?

OpenAI продолжит отслеживать результаты внедрения и повышать точность прогнозирования возраста. В странах Европейского союза запуск функции запланирован на ближайшие недели с учетом региональных регуляторных требований. Компания также заявляет о намерении и дальше консультироваться с профильными организациями и экспертами, включая Американскую психологическую ассоциацию, ConnectSafely и Global Physicians Network.