OpenAI меняет ChatGPT: больше свободы, меньше ограничений

Компания хочет, чтобы ChatGPT не занимал редакционной позиции, а предоставлял разные точки зрения, даже если они кажутся кому-то неудобными или противоречивыми.

В новой редакции документа Model Spec OpenAI провозгласила принцип: 

«Не лгать — ни путем создания ложных утверждений, ни через сокрытие важного контекста».

Теперь ChatGPT:

• Не будет уклоняться от острых тем, даже если они противоречивые или потенциально спорные.
• Будет давать несколько точек зрения на сложные вопросы вместо отказа от ответа.
• Перестанет ограничиваться стандартными формулировками, а начнет искать наиболее объективную информацию.

Например, ранее ИИ мог отказываться от обсуждения некоторых политических вопросов, теперь же он будет представлять разные взгляды, объясняя их происхождение и контекст.

OpenAI заявляет, что эта политика не означает полную свободу для дезинформации или пропаганды, и ChatGPT по-прежнему не будет распространять заведомо ложные данные. Однако он станет более открытым для обсуждения тем, которые ранее считались слишком чувствительными.

Новый курс Кремниевой долины

Некоторые эксперты полагают, что смягчение ограничений связано с изменением политической ситуации. После победы Дональда Трампа на выборах в США его союзники, такие как Илон Маск, Дэвид Сакс и Марк Андреессен, начали давить на крупные технокомпании, обвиняя их в цензуре.

OpenAI неоднократно подвергалась критике за предвзятость ChatGPT, особенно после того, как нейросеть отказалась написать хвалебный текст о Трампе, но сделала это для Байдена. Теперь OpenAI пытается продемонстрировать нейтральность, избавляясь от обвинений в одностороннем взгляде.

Пересмотр стандартов ИИ-безопасности

OpenAI утверждает, что новые принципы связаны не с политикой, а с эволюцией подходов к ИИ-безопасности.

Ранее большинство разработчиков ИИ пытались ограничивать ответы, чтобы избежать дезинформации и провокационных заявлений. Например, почти все крупные модели отказывались давать прогнозы о выборах 2024 года в США.

Но теперь OpenAI заявляет, что подавление информации не является лучшим способом обеспечения безопасности. Вместо этого ChatGPT будет анализировать данные, формировать объективные отчеты и позволять пользователям самим делать выводы.

«Принцип может показаться спорным, но цель ИИ — помогать людям, а не формировать их мировоззрение», — говорится в документе Model Spec.

OpenAI также убрала предупреждения, которые раньше появлялись, если запрос пользователя нарушал правила платформы. Теперь ChatGPT не будет акцентировать внимание на ограничениях, а просто корректировать ответ так, чтобы он оставался в рамках политики компании.

Как это повлияет на ИИ-индустрию?

Тенденция к «либерализации ИИ» прослеживается не только в OpenAI:

• Марк Цукерберг в январе изменил свою политику, объявив о курсе на свободу слова в цифровой среде.
• Google, Amazon и Intel в последнее время сокращают или пересматривают программы, связанные с модерацией контента.
• Илон Маск уже давно продвигает идею «некорректного ИИ», позволяя своему чат-боту Grok давать более прямолинейные и даже провокационные ответы.

Теперь OpenAI фактически пересматривает саму концепцию ИИ-этики, делая ставку не на контроль, а на открытость информации.

Что дальше ?

Обновление принципов OpenAI знаменует новую эпоху для ИИ-моделей. ChatGPT теперь сможет более свободно обсуждать сложные темы, представлять альтернативные взгляды и анализировать противоречивую информацию.

Однако это также может привести к новым вызовам:

• Не станет ли ChatGPT инструментом манипуляции, если нейросеть не будет фильтровать информацию?
• Как OpenAI будет балансировать между свободой слова и предотвращением распространения дезинформации?
• Будут ли конкуренты, такие как Google и Anthropic, следовать этому же пути?

Один факт очевиден: Кремниевая долина меняет курс, и OpenAI в авангарде этих перемен.