Anthropic предложила проверять, какая нейросеть вам отвечает

Anthropic представила FlashProve . Разработка касается доверия к сервисам, которые дают доступ к нейросетям. Если сервис обещает использовать определённую модель, клиенту нужен способ проверить, что ответ действительно связан с ней.

FlashProve — экспериментальный набор программ от Anthropic для проверки происхождения ответов нейросети.

По ответу трудно узнать модель

Представьте, что вы оплачиваете доступ к большой модели для работы с документами. Сервис возвращает связный текст, ошибок с первого взгляда нет. Однако по качеству одного ответа трудно установить, какая нейросеть его подготовила. Более дешёвая модель тоже могла справиться с этим запросом.

FlashProve позволяет добавить к результату цифровое доказательство. Его проверяет программа на стороне клиента. Для такой проверки пользователю не нужно скачивать саму модель и запускать её у себя.

Сначала провайдер фиксирует параметры модели и публикует связанный с ними цифровой отпечаток. Затем строит доказательство для проверяемой части ответа. Программа клиента сверяет эти данные. Так появляется возможность проверить соответствие вычислений заранее зафиксированной модели.

Отпечаток тоже нужно кому-то доверить

У такого подхода есть важное условие. Нужно заранее знать, что цифровой отпечаток принадлежит именно обещанной модели. Если сервис зафиксирует другую нейросеть, он сможет корректно подтверждать её ответы. Поэтому авторы рекомендуют получать отпечаток из доверенного источника, отдельно от сервера, который проходит проверку.

Правдивость сообщения проверяется отдельно. Даже выбранная вами модель может перепутать дату, придумать ссылку или неверно понять документ. FlashProve исследует происхождение ответа. Ошибки внутри текста такая проверка не исправляет.

До привычной функции сервиса ещё далеко

Разработчики показали прототип на модели Llama 4 Maverick . В базовом испытании проверяли лишь следующий небольшой фрагмент текста, который должна выдать модель. Такой фрагмент называют токеном. Его проверка ещё не подтверждает происхождение всего ответа.

Подтверждение требует дополнительных ресурсов. В измерениях авторов один файл доказательства занимал около 19 МБ, а его проверка на процессоре в одном потоке длилась примерно 21 секунду. Для обычного чата это заметная дополнительная нагрузка. Такие результаты относятся к конкретному эксперименту, поэтому переносить их на все нейросети нельзя.

Код открыт, но опубликован как исследовательская работа без сопровождения. Пока это основа для инженерных экспериментов. Если подобная проверка появится в привычных ИИ-сервисах, клиенту понадобятся ответы на три вопроса:

• Кто подтвердил, что отпечаток принадлежит выбранной модели?
• Какая часть ответа прошла проверку?
• Что именно подтверждает успешный результат?

От этих условий зависит, насколько убедительно сервис сможет подтвердить выполнение своего обещания. Одной надписи с названием дорогой модели для этого недостаточно.