Компания Anthropic разработала систему FlashProve, позволяющую математически подтвердить, что ответ был сгенерирован конкретной моделью с заданными весами, не раскрывая их внутренних параметров. Технология использует криптографические доказательства для защиты от подмены дорогих моделей на дешёвые аналоги при использовании сторонних API.
Система FlashProve позволяет клиенту проверить происхождение вычисления, подтвердив, что выбранные токены ответа были сгенерированы моделью с заранее зафиксированным набором весов, без необходимости повторного запуска нейросети или доступа к её закрытым параметрам.
В качестве основы для экспериментов была выбрана модель Llama 4 Maverick от Meta с 400 млрд параметров, где при обработке одного токена задействовано около 17 млрд параметров, при этом прототип работает с четырёхбитной версией весов.
Генерация криптографических доказательств требует примерно в 70–95 раз больше времени GPU, чем обычная работа модели в vLLM, что делает технологию пока неподходящей для мгновенной проверки каждой реплики в обычном чате.
Протокол проверяет только целочисленные вычисления при выборе наиболее вероятного токена и поддерживает контекст до 1024 токенов, не подтверждая при этом правдивость самого ответа или результаты вычислений с плавающей точкой.
Для предотвращения мошенничества клиент должен получать commitment ID от независимой доверенной стороны заранее, так как провайдер вправе зафиксировать любой набор весов, и само доказательство не отвечает на вопрос, кто выбрал модель.
Разработчики опубликовали код и описание протокола под лицензией Apache 2.0, однако быстрая реализация на C++ пока не имеет полной формальной гарантии соответствия проверенной математической схеме.