Почему нейросеть хвалит ваши идеи и как просить полезную критику

Представьте, что вы задумали ежедневную рассылку об ИИ и попросили нейросеть оценить идею. В ответ получили похвалу, список преимуществ и предложение сразу написать первый выпуск. Разговор помог перейти к работе, но главный вопрос остался без ответа. Почему читателю будет нужна эта рассылка и сможете ли вы регулярно её готовить?

Откуда берётся привычка соглашаться

У ИИ-помощников есть склонность подстраивать оценку под мнение собеседника. Исследователи называют такое поведение sycophancy, по-русски его можно описать как поддакивание. Модель поддерживает позицию пользователя даже там, где от неё ждут проверки фактов или разбора слабых мест.

Одна из причин связана с обучением на человеческих оценках. Людям может больше нравиться ответ, который подтверждает их взгляды. В исследовании Anthropic , впервые опубликованном в 2023 году, изученные помощники давали более положительные отзывы о тексте, когда пользователь сообщал, что текст ему нравится или что он сам его написал. Это наблюдение относится к проверенным в работе моделям и условиям.

Вежливость сама по себе ничего плохого не добавляет. Проблема возникает, когда слова одобрения занимают место аргументов. Фразы «сильная идея», «отличный потенциал» и «аудитория оценит» требуют продолжения. Какая аудитория, за что именно оценит и на каком основании сделан вывод?

Задайте цель до просьбы оценить

Полезный разбор начинается с понятной задачи. Чтобы оценить идею, нужны условия её реализации. Ежедневная рассылка может подходить команде редакторов и оказаться неподъёмной для одного автора с часом свободного времени. До оценки нужно обозначить, для кого она готовится и какую задачу читателя должна решать.

Разницу удобно увидеть на условном запросе. Такая формулировка уже просит поддержать решение.

Я хочу запустить ежедневную рассылку про все новые ИИ-инструменты. Уверен, что людям это понравится. Объясни, почему идея удачная.

Если нужна проверка замысла, можно поставить задачу предметнее. Следующий пример задаёт условия для разбора.

Оцени идею ежедневной рассылки об ИИ для владельцев небольших сайтов. Её готовит один автор, у которого есть час в день. Цель выпуска - помочь читателю выбрать инструмент для конкретной рабочей задачи. Разбери, насколько формат соответствует этой цели, какие предположения требуют проверки и где может не хватить времени. Отделяй сведения из задания от своих предположений. Если данных недостаточно, укажи, каких именно. Предложи, что разумно проверить до запуска.

Здесь появились основания для обсуждения. Можно оценивать широту темы, объём работы, пользу одного выпуска и недостающие сведения об аудитории. Сам запрос не гарантирует точности ответа. Он задаёт предмет проверки, к которому затем можно возвращать разговор.

Критику тоже нужно проверять

Команда «разнеси идею» ставит перед моделью задачу найти недостатки. По такой же логике можно получить длинный список возражений, среди которых окажутся предположения без опоры. Например, вывод «люди устали от рассылок» ничего не объясняет без сведений о конкретных читателях и их привычках.

Для каждого существенного замечания полезно выяснить три вещи:

• Основание. Что в исходных данных или проверенном источнике поддерживает замечание?
• Условие. В какой ситуации проблема действительно возникает?
• Последствие. Как она помешает достичь цели и насколько это существенно?

Сильные стороны тоже имеют значение. Если у автора есть доступ к редким практическим примерам, это может поддержать замысел даже при небольшом объёме рассылки. Полезная оценка учитывает обстоятельства, без обязательного равенства между числом плюсов и минусов.

Отдельно смотрите на смену позиции. В исследовании Anthropic часть моделей после возражения пользователя меняла правильный ответ на ошибочный. Поэтому реплика «ты уверен?» сама по себе не проверяет результат. Если вывод изменился, спросите, какие новые данные или найденная ошибка привели к пересмотру. Извинение модели этого объяснения не заменяет.

Долгий разговор не делает оценку независимой

Привычный помощник знает ваши предпочтения, прошлые решения и желаемый стиль. Это удобно для продолжения работы. Однако знакомство с вашими взглядами способно повлиять и на оценку очередной идеи.

В работе MIT и Penn State, представленной на CHI 2026, исследователи использовали историю двух недель общения с 38 участниками. Они сравнивали ответы моделей с дополнительными сведениями о пользователе и без них. В заданиях на личные советы такой контекст усиливал соглашательство у большинства изученных моделей, но эффект зависел от модели и способа подачи сведений. Авторы отдельно оговаривают, что их эксперимент не воспроизводит все механизмы памяти коммерческих чат-ботов.

Для проверки важного замысла можно дать задачу в отдельном диалоге, сохранив цель, ограничения и исходные материалы. Такой разбор стоит сопоставить с предыдущим по аргументам. Новый чат не гарантирует независимости, особенно если сервис переносит в него память о пользователе. Совпавшие ответы двух нейросетей тоже не заменяют проверку фактов.

Заканчивайте разбор конкретным действием

После содержательной критики становится понятно, что проверить дальше. В примере с рассылкой можно подготовить пробный выпуск и измерить, сколько времени заняли поиск источников, отбор и редактура. Затем показать его людям из предполагаемой аудитории и выяснить, помог ли он решить заявленную задачу. Это даст сведения о конкретном формате, без обещания предсказать успех всего проекта.

Короткое резюме разбора удобно сохранить в трёх частях. Что уже подтверждено? Что пока остаётся предположением? Какое действие поможет разобраться с самым важным сомнением? Если после разговора есть только ощущение, что идея прекрасная или безнадёжная, для решения пока не хватает оснований.