Компания Anthropic выпустила исследовательский прототип FlashProve, позволяющий криптографически подтвердить, что ответ сгенерировала заявленная модель, а не более дешёвая подмена. Система использует механизм нулевого разглашения для защиты от подмены со стороны провайдеров API и самих разработчиков.
Система FlashProve позволяет клиенту проверить происхождение вычисления, подтверждая, что выбранные токены ответа соответствуют заранее зафиксированным весам модели без доступа к самим весам.
Для работы механизма провайдер должен создать криптографический коммит к набору весов и опубликовать его ID, который клиент получает от независимой доверенной стороны, а не от сервера, обрабатывающего запрос.
В ходе тестирования на модели Llama 4 Maverick (400 млрд параметров) одна видеокарта NVIDIA H100 формировала доказательства со скоростью 110 токенов/с при контексте 1024 токена.
Проверка сформированного доказательства занимает около 17 секунд на процессоре с 24 потоками и не требует видеокарты, при этом размер одного доказательства составляет в среднем 18,78 МБ.
Создание доказательств в FlashProve занимает в 66–77 раз больше времени, чем пакетный prefill vLLM на той же нагрузке, из-за необходимости повторных вычислений постфактум.
Протокол проверяет целочисленную версию квантованных весов при жадном декодировании, поэтому при обычной случайной выборке токенов ответ может не совпасть с доказательством.
Загрузка комментариев…