Anthropic推出了FlashProve,这是一项开源研究原型,旨在通过密码学方式验证特定的大语言模型是否生成了特定回复。这项工作针对人工智能领域日益突出的一项信任问题:用户可能知道某个回复来自一家人工智能服务提供商,却无法独立确认生成该回复的是哪个模型及其模型权重。FlashProve旨在让这一说法可被证明,同时无需服务提供商披露专有权重。
在其关于可证明推理的官方研究更新中,Anthropic将FlashProve描述为迈向可验证人工智能输出、可审计性和输入输出溯源的一步。它不是已部署的产品或API,而是在一个4000亿参数的混合专家模型Llama 4 Maverick上使用4位量化进行演示的研究原型。
其意义不在于现在每次人工智能交互都能以低成本得到验证。目前生成证明仍需大量资源。Anthropic发布了一个具体的纯软件实现,表明零知识证明技术可以应用于超大型语言模型;相关代码、规范和形式化证明材料均以Apache 2.0许可证开放。
FlashProve采用可证明推理流程,围绕密码学承诺和后续证明生成阶段构建。首先,模型提供商对一组特定模型权重作出承诺。当该模型生成输出后,提供商可以生成一份证明,将观察到的输出词元与这些已承诺的权重关联起来。
该证明采用零知识设计。这意味着验证者可以检查这一主张,而无需获知权重本身。这对模型提供商很重要,因为模型权重可能是专有的,而客户、审计人员或其他第三方仍可能需要更有力的证据,确认生成某项输出的系统。
Anthropic的方法采用zkSNARK/IOP构造。实际而言,验证者收到的是一份紧凑的密码学材料,无需重新运行模型或获取其参数。发布的软件包包括:
- 技术报告和协议规范。
- 可执行的证明者代码和两个验证者代码。
- 针对部分工作的Lean证明。
- 采用Apache 2.0许可证开源。
- 在Llama 4 Maverick上进行演示的性能结果。
这种组合很重要,因为仅凭高层主张很难评估可证明推理。公开协议、代码和形式化材料,为开发者和研究人员提供了可检查、测试和继续构建的内容。
报告的结果既显示了进展,也表明研究演示距离常规使用还有差距。Anthropic报告称,每个模型的离线承诺时间约为39分钟。在线阶段,FlashProve可为批次生成证明,例如约223秒处理24个请求,据其描述,相当于每秒约110个词元。单份证明约为18.78 MB。
验证所需资源明显少于证明生成,这是有意的设计。Anthropic报告称,验证者可以在不使用GPU的CPU上运行,并在一台24核机器上用约17秒完成对24个词元或请求的验证。这一区别是设计的核心:由服务提供商承担昂贵的证明工作,外部一方则可用较为普通的硬件验证结果。
| 阶段或属性 | FlashProve演示 | 重要性 |
|---|---|---|
| 评估模型 | Llama 4 Maverick,一款采用4位量化的4000亿参数混合专家模型 | 表明该工作已在一个超大型混合专家模型上测试。 |
| 离线承诺 | 每个模型约39分钟 | 为模型权重创建密码学承诺。 |
| 在线证明生成 | 处理24个请求的示例批次约需223秒,每秒约110个词元 | 体现报告中的微基准测试所显示的当前证明成本。 |
| 验证 | 在一台24核CPU机器上约需17秒,不使用GPU | 无需访问模型权重即可进行独立检查。 |
对于在重大影响工作流程中使用人工智能的组织而言,输出背后的模型身份可能和输出本身同样重要。经过验证的证明未来或许能帮助客户确认回复由双方约定的模型版本生成,而非由其他系统生成。它也可用于留存人工智能生成内容的记录,尤其是在溯源很重要的场景中。
潜在用途包括证明敏感工作流程使用了合同约定的模型、为模型生成的决策或报告提供审计记录,以及在人工智能输出在公司之间流转时建立更强的信任信号。FlashProve所称的输入输出溯源重点也指向这样一种未来:人工智能服务提供商可以提供有关回复如何生成的证据,同时不暴露其知识产权。
这些可能性应被视为发展方向,而非随时可购买的能力。Anthropic将FlashProve定位为原型,其公布的基准测试反映的是特定模型、量化设置和实验室式环境。证明大小、生成时间和基础设施成本仍是实际限制。这项研究并未证明该技术已适用于高流量生产应用,也未证明它可以不加修改地应用于所有模型架构。
Anthropic将这项工作与其Frontier Safety Roadmap中“在2026年9月30日前制作可验证推理原型”的目标联系起来。FlashProve是朝该目标迈进的一条软件路线。该公司还提到了其他同步推进的方法,包括流量签名方法。
更广泛的背景也很重要。不同的验证方法可能适合不同需求。需要模型溯源证据的企业,可能不需要为每次交互都进行零知识证明;而高保障场景则可能认为,尽管计算成本更高,密码学验证仍有价值。FlashProve为这一正在形成的设计空间增添了一个可信的技术选项,但目前还不能确定哪种方法会成为标准。
对于正在规划人工智能应用的企业,眼下的启示是要区分普通模型访问与可验证的模型溯源。大多数团队仍会重点关注质量、成本、可靠性和数据处理。当模型身份的证明成为重要事项时,就需要更仔细地审视相关技术和商业权衡。
评估人工智能在面向客户、运营或对证据有要求的工作流程中应用的企业,需要清楚了解更强的溯源能力在哪些方面能创造实际价值,在哪些方面会带来不必要的成本。Scalevise可以帮助将FlashProve等进展转化为切实可行的应用计划,从筛选合适的应用场景到评估集成需求和运营权衡。了解我们的人工智能实施与战略咨询服务,并申请咨询,以确定适合贵企业的人工智能管控措施和工作流程。
Anthropic的FlashProve是什么?
FlashProve是Anthropic推出的可证明推理开源研究原型。它使模型提供商能够证明某个回复由已承诺的模型权重生成,同时不披露这些权重。
FlashProve是Anthropic的API或生产功能吗?
不是。Anthropic将FlashProve作为研究原型推出,而非已部署的API或生产服务。
Anthropic用哪个模型演示了FlashProve?
Anthropic在Llama 4 Maverick上演示了FlashProve。这是一款采用4位量化的4000亿参数混合专家模型。
零知识验证对人工智能模型为何重要?
它可以让外部一方验证某个已承诺的模型是否生成了某项输出,同时保护模型的专有权重。
FlashProve目前有哪些局限?
公布的结果是原型微基准测试,证明生成时间和证明大小都较为显著。这些结果并未证明该技术已适合用于生产,也未证明它普遍适用于各种模型架构。
FlashProve是一项有意义的研究演示,表明可验证推理能够应用于超大型语言模型,同时不披露其权重。目前的成本和原型状态限制了它的即时部署,但Anthropic的开源发布为评估密码学溯源如何增强人们对未来人工智能系统的信任提供了一个具体基础。