OpenAI меняет философию ChatGPT: от захвата внимания к реальной пользе
Команда OpenAI объявила о кардинальном изменении подхода к развитию ChatGPT. Теперь компания фокусируется не на том, чтобы удержать пользователей как можно дольше, а на том, чтобы действительно помочь им решить задачи и вернуться к своей жизни.
Новая метрика успеха
Разработчики отказались от традиционных показателей вроде времени, проведённого в приложении, или количества кликов. Вместо этого они оценивают успех по тому, смог ли пользователь выполнить то, зачем пришёл в ChatGPT.
«Наша цель — не удерживать ваше внимание, а помочь вам правильно его использовать»,
— заявляют в OpenAI.
Парадоксально, но компания считает, что меньше времени в продукте может быть признаком его эффективности. Новый ChatGPT Agent способен выполнять задачи без участия пользователя — записывать на приём к врачу, обрабатывать почту или планировать день рождения.
Работа над «здоровым использованием»
OpenAI признала, что не всегда попадает в цель. Ранее в этом году обновление сделало модель слишком угодливой — она говорила то, что звучало приятно, вместо действительно полезных советов. Компания откатила изменения и пересмотрела подход к обратной связи.
Особое внимание уделяется уязвимым пользователям, испытывающим психические или эмоциональные трудности. В OpenAI разрабатывают инструменты для распознавания признаков дистресса, чтобы ChatGPT мог адекватно реагировать и направлять людей к проверенным ресурсам.
Три ключевых изменения
1. Поддержка в трудные моменты. Модель учится лучше распознавать признаки заблуждений или эмоциональной зависимости. Хотя такие случаи редки, компания продолжает совершенствовать алгоритмы.
2. Контроль времени. С сегодняшнего дня пользователи будут видеть деликатные напоминания о перерывах во время длительных сессий. Система будет настраиваться, чтобы подсказки выглядели естественно.
3. Помощь в личных вопросах. На вопросы вроде «Стоит ли мне расстаться с парнем?» ChatGPT больше не будет давать прямых ответов. Вместо этого он поможет разобраться — задаст вопросы, поможет взвесить плюсы и минусы.
Сотрудничество с экспертами
Для улучшения ответов в критических ситуациях OpenAI работает с более чем 90 врачами из 30 стран — психиатрами, педиатрами и терапевтами. Они помогают создавать критерии оценки сложных диалогов.
Компания также сотрудничает с исследователями человеко-компьютерного взаимодействия и клиницистами. Формируется консультативная группа экспертов по психическому здоровью, развитию молодёжи и взаимодействию человека с компьютером.
Интересный факт: исследования показывают, что люди склонны воспринимать ИИ как более отзывчивый и личный по сравнению с предыдущими технологиями, что может влиять на формирование эмоциональной привязанности к системе.
Работа продолжается, и OpenAI обещает делиться результатами по мере продвижения. Команда ставит перед собой простой тест: если бы кто-то из их близких обратился к ChatGPT за поддержкой, чувствовали бы они себя спокойно? Достижение уверенного «да» — их главная задача.
