图片由AIYXL用AI生成
Anthropic 于 11 月 2 日发布了一款研究原型，利用零知识证明依据已承诺的模型权重来验证推理过程。其 Llama 4 演示展示了哪些内容可以被核验，以及证明仍需要多少成本。
API 响应中的模型名称告诉客户该服务声称运行了什么。Anthropic 的 FlashProve 则追问客户自己能够核验什么。11 月 2 日，该公司发布了研究成果，并公开了原型代码，用于检查某一响应是否与提供商已对其权重作出承诺的模型计算相符。
验证者可以核验的声明
FlashProve 使用零知识证明。提供商对特定模型权重作出承诺，并生成证据，证明被检查的输出源自这些权重。验证者无需接收权重即可检查该证据。该承诺仍需与客户打算使用的模型版本建立可信关联。证明可以确立该承诺所覆盖的计算；至于答案是否准确或是否适合该任务，则需要单独的证据。
当请求经过模型网关时，这一区别很重要。在审计中，客户可能想知道某项请求是否遵循了约定的路由策略。与已知承诺绑定的证明，可以让客户独立于网关自身的日志来核验某一特定的推理声明。
证明背后的工作
Anthropic 报告称，在一项使用 Meta 的 Llama 4 Maverick 4 位版本（一个 4000 亿参数的混合专家模型）的演示中，单块 H100 GPU 上的证明生成速度约为每秒 110 个 token。对于一次 1,024 个 token 的请求，所报告的证明大小约为 19 MB。研究人员在其比较条件下测得，GPU 时间约为使用 vLLM 进行普通推理的 70 至 95 倍。该吞吐量数据描述的是该设置下的证明过程。实际部署还需要为证明的存储、传输和验证预留预算。
FlashProve 在推理之后生成证明。这种设计适合考虑抽样审计：团队可以选择要核验哪些请求，并接受在收到证据之前存在延迟。该方法是否适用，将取决于审计的覆盖要求，以及被审计路径对在线服务的代表程度。
保证的边界
该原型使用贪心解码检查模型的整数版本，其中每一步都会选择得分最高的 token。采样回复或由浮点实现生成的回复可能会偏离该路径。该研究还报告，证明的上下文限制为 1,024 个 token；作者将其在 Lean 中的形式化工作与快速可执行代码所能提供的保证区分开来。
对于评估该技术的团队而言，一个具体的下一步测试是：选择一个模型版本、一种推理配置和一组具有代表性的请求，然后检查验证者能够覆盖哪些输出。这项练习将量化以当前发布的原型可以审计多少真实工作负载。