Anthropic 开源了 FlashProve,它让你可以检查哪个 AI 模型实际撰写了一个回复,可在普通 CPU 上进行验证。
例如,如果你通过经销商付费使用顶级 AI 模型,你无法检查它是否悄无声息地提供了更便宜的模型。Anthropic 的 FlashProve 让服务器能够通过数学方式证明哪个模型做出了回应。
Anthropic 在 Meta 的 Llama 4 Maverick 上测试了它,这是一个大型的 400B 参数开源模型,其中单个 Nvidia H100 GPU 以 110 个 token/秒的速度生成证明,每个证明约 19MB。
普通 CPU 在大约 17 秒内检查每个证明,而 VerInf(目前已知唯一能证明此模型的早期系统)生成的证明达 93.6GB,需要近一天时间来检查。
Claude 构建了这个系统,并且由于其代码难以审计,安全保证在 Lean 4(一种证明检查语言)中通过数学方式证明。
