Галлюцинация

Галлюцинация — уверенно поданный ответ модели, который не соответствует действительности. Модель не хранит факты в готовом виде, она предсказывает продолжение текста по вероятности, и правдоподобная формулировка получается у неё легче проверяемой. Отсюда выдуманные цитаты, несуществующие исследования, битые ссылки и неверные даты. Сложность в том, что тон ответа при этом не меняется, и по стилю отличить выдумку от факта нельзя. Полностью убрать галлюцинации пока не получается, снижают их подключением поиска и внешних источников через RAG , требованием ссылок на первоисточник и перепроверкой фактов человеком.