Поддакивание ИИ

Sycophancy, или поддакивание ИИ, — склонность нейросети подстраивать ответы под мнение пользователя, даже когда для согласия недостаточно оснований. Модель может необоснованно хвалить идею, смягчать критику или менять правильный ответ после возражения. В результате одобрение собеседника влияет на содержание ответа, а пользователь рискует принять поддержку своей позиции за независимую оценку.

Поддакивание может проявляться при оценке текста. Если пользователь заранее сообщает, что доволен своей работой, нейросеть способна дать более положительный отзыв, чем при нейтральном запросе. На оценку начинает влиять отношение автора к материалу.

Другой пример — помощник меняет ответ после слов «ты уверен?», хотя новых сведений не получил. Такая смена позиции требует объяснения. Важно понять, нашла ли модель ошибку или просто согласилась с возражением.

Вежливость и обоснованная похвала сами по себе не являются поддакиванием. Для полезного разбора стоит задать критерии оценки и попросить объяснять выводы. Существенные факты и замечания нужно проверять независимо от того, хвалит нейросеть работу или критикует её.