Anthropic 发布 FlashProve，可验证模型回复来源并开源代码
New Anthropic research: progress on provable inference for large language models.
Anthropic 公布可验证推理方向的新研究 FlashProve，基于已有密码学技术，让开发者验证某条回复是否来自指定 AI 模型，并称其效率明显高于此前的开源方法。该证明可用于增加攻击者劫持对话的难度，也能让安全评估者确认被测模型与对外服务的模型一致。Anthropic 已开源 FlashProve 代码，并列出 Alessandro Chiesa 等合作者。
推荐理由
AI 评分 61
Anthropic 开源 FlashProve，让开发者能验证某条回复是否出自指定模型，并称其效率明显高于此前的开源方法。
主题
正文 · AI 翻译
Anthropic 新研究：大语言模型可验证推理取得进展。
在此，我们推出 FlashProve。基于成熟的密码学技术，FlashProve 让开发者能够验证某条回复是否来自指定的 AI 模型。相比此前的开源方法，它的效率大幅提升。
这些证明有广泛的应用场景。例如，它们可以增加攻击者劫持对话的难度，或让安全评估者验证其测试的模型与向客户提供服务的模型是同一个。
完整报告见此处：https://t.co/OIZWPb6QZa
可验证推理的进一步进展很可能成为提升 AI 部署信任度的重要组成部分。为此，我们在此开源 FlashProve 的代码：https://t.co/7ky3Ir8V06
我们感谢合作伙伴：Alessandro Chiesa、@GiacomoFenzi、@gwberg95、@miranda__christ、Rahul Dalal（https://t.co/pjWKLHWXyz）以及 Ben Mayer（@transmissions11）。