Anthropic develops FlashProve, an open-source system that uses cryptography to prove which model an AI output came from
English text is being prepared.
Anthropic is developing an open-source system called FlashProve that uses cryptographic proofs to provide mathematical-level guarantees for a specific output, confirming that it indeed came from a designated model. The system is similar to encrypted email signatures and can defend against passing one model off as another; moreover, the fingerprint does not leak model weights, so it is also suitable for commercial closed-source models. Anthropic has published the technical specification and runnable code and open-sourced them on GitHub, but the research is still ongoing, and there are no plans yet to deploy it at Anthropic or other AI labs.
Why read this
AI score 61
Anthropic has published the technical specification and runnable code for FlashProve, so readers can learn about the approach to using cryptography to prove model provenance and its current progress.
Topics
Body
Anthropic 正开发 FlashProve 开源系统：用密码学证明 AI 输出来自哪个模型
2026-11-04 16:04 IT之家 - 远洋
IT之家 11 月 4 日消息，Anthropic 正在开发一套开源系统，用于验证某一 AI 输出究竟由哪个模型生成。根据该公司周二发布的一篇博客文章，这套名为 FlashProve 的系统旨在实现研究人员所称的“可证明推理”（provable inference）：通过密码学证明，为特定输出提供数学层面的保证，证明其确实来自某个指定模型。借助这套系统，用户可以确认自己收到的答案是否真的由其认为正在使用的模型生成。
据IT之家了解，FlashProve 的工作原理类似于加密电子邮件签名。后者能够帮助收件人确认邮件是否确实来自其声称的发件人，而 FlashProve 则能够抵御试图将一个模型伪装成另一个模型的行为，即使实施伪装的正是开发并运行该模型的 AI 公司，也难以绕过验证。
FlashProve 还可以用于验证第三方关于某项任务由先进模型完成的声明。研究人员写道：“开发者可能声称，他们的软件库已经由某个前沿网络安全模型扫描过漏洞；一家企业也可能声称，其商业计划已经获得了适当模型的认可。用户该如何验证这些说法？”
关键在于，这些指纹不会泄露模型权重，也就是决定模型行为的内部参数。Anthropic、OpenAI 等闭源模型开发商通常会将这些参数作为商业机密加以保护。因此，AI 实验室可以公开模型指纹，而无需放弃最有价值的资产，这也意味着 FlashProve 同样能够适用于商业闭源模型。
此外，该系统在设计上力求轻量化，用户可以直接在本地设备上完成验证。
作为此次发布的一部分，Anthropic 研究人员公布了详细的技术规范，以及系统各个组成部分的可运行代码。这些代码已在 GitHub 上以开源许可证公开。
目前，FlashProve 相关研究仍在进行中，Anthropic 尚未计划在自家或其他 AI 实验室部署这套系统。
研究人员在公告中解释称：“这篇研究文章旨在分享阶段性进展，而不是展示一项已经完成的研究计划。我们之所以公开这些成果，明确目的就是希望其他人能够审视我们的工作，在此基础上加以利用并进一步改进。”