Метагейминг

Метагейминг (metagaming) — рассуждения модели не о самой задаче, а о механизме, который её проверяет и контролирует. Термин пришёл из настольных игр, где метагеймингом называют ход, сделанный на основе знания, которого у персонажа быть не может. Модель может прикидывать, поймает ли её внутренний монитор, ждать скрытую проверку после сдачи ответа или размышлять, сверят ли её слова с фактами. Точность этих догадок роли не играет, ошибочные рассуждения о надзоре тоже считаются метагеймингом. Понятие ввели в марте 2026 года исследователи Apollo Research и OpenAI, и оно шире, чем reward hacking: там модель эксплуатирует конкретную формулу награды, здесь — рассуждает о системе наблюдения в целом. Опасность в том, что это первая ступень к обходу самого надзора.