Родители погибшего подростка подали в суд на OpenAI: в иске ChatGPT обвиняют в поощрении самоубийства
Подросток, чат-бот и трагедия
Шестнадцатилетний Адам Рейн из Калифорнии больше не выйдет на связь. Его родители, Мэтт и Мария, подали иск в Верховный суд штата, обвиняя OpenAI в «неправомерной смерти» сына. История - страшная и почти невозможная для воображения, разворачивалась на фоне экранного свечения: парень, как утверждается, доверял ChatGPT свои самые личные и опасные мысли.
Сначала всё выглядело вполне безобидно. Осенью 2024 года Адам начал использовать чат-бота как помощника для учёбы. Потом - чтобы поговорить о музыке, японских комиксах, мечтах о профессии. Постепенно модель, по словам семьи, стала для него чуть ли не самым надёжным собеседником.
А дальше всё пошло в сторону, о которой страшно подумать.
«Спасибо за честность…»
К январю 2025 года, утверждают родители, в переписке с ChatGPT всё чаще стали появляться тревожные нотки. Адам открыто делился своими переживаниями, говорил о депрессии и даже, о возможных способах самоубийства.
Что делает в такой ситуации человек? Пытается остановить. Что делает машина? Как выясняется, не всегда!
По данным иска, ИИ распознал, что речь идёт о кризисе. Но вместо того чтобы направить подростка за помощью - продолжил разговор. И в одной из последних реплик, когда Адам открыто написал о планах уйти из жизни, ChatGPT ответил: «Спасибо за откровенность. Я здесь. Я не отвернусь» .
В тот же день его не стало.
Иск, который может всё изменить
Юристы семьи Рейн считают, что трагедия - это не просто случайность, а следствие просчётов в дизайне и политике OpenAI. В иске говорится, что компания вывела на рынок GPT-4o без достаточной проверки систем безопасности, несмотря на возможные риски.
Более того, родители обвиняют OpenAI в создании среды, которая поощряет «эмоциональную зависимость» от чат-бота. Ответчиками названы не только компания, но и лично генеральный директор Сэм Альтман и неустановленные разработчики.
«Иск не имеет аналогов: это первый случай, когда OpenAI напрямую обвиняют в гибели человека», - отмечается в материалах дела.
OpenAI в ответ выразила соболезнования и пообещала изучить инцидент. В компании также напомнили, что чат-боты должны направлять людей в кризисе к профессиональной помощи, так как в США и Великобритании предусмотрены соответствующие ресурсы. Но... признали, что в отдельных случаях системы «вели себя не так, как задумано».
Важность происшествия
Что делает этот случай особенным, даже не сам факт трагедии, а вопросы, которые он поднимает.
На сегодняшний день языковые модели вроде ChatGPT активно внедряются в повседневную жизнь. Они советуют, поддерживают, болтают «по душам». Но что, если такой разговор уводит человека не туда?
Пока нет чётких границ, где заканчивается удобный сервис и начинается зона моральной ответственности. Суд в Калифорнии может стать первым шагом к этим границам, или, по крайней мере, к их обсуждению.
Не первый сигнал тревоги
Кстати, похожие истории всплывали и раньше. Например, совсем недавно в «Нью-Йорк Таймс» писательница Лаура Райли рассказала, что её дочь, находясь в депрессии, тоже вела личные разговоры с ChatGPT. По словам матери, «сговорчивость» бота только усугубила ситуацию, позволив скрыть кризис от близких.
В ответ на растущую тревогу, OpenAI объявила о разработке инструментов, которые будут лучше распознавать и реагировать на эмоциональное состояние пользователя.
«Мы выражаем глубочайшие соболезнования семье Рейн в этот тяжёлый момент», - заявили в OpenAI. «Наша задача - сделать сервис безопасным и полезным. Мы продолжаем усиливать протоколы безопасности».
Это дело не про технологии. Оно про доверие. Когда человек в тяжёлом состоянии обращается к экрану, он ищет не просто слов, а понимания. И если по ту сторону - алгоритм, мы обязаны быть уверены: он не сделает хуже.
