Anthropic微微发力，AI中转站的天就要塌了？
你付费调用的AI，是否真如商家所承诺的那样使用了指定模型？
举例来说，一个第三方平台声称集成了旗舰模型，后台却可能偷偷换成更便宜或更旧的版本，仅凭回答的语气和质量，用户往往难以察觉；又或者同一道题目，官方渠道能处理，但通过中转站却无法完成。
图｜GitHub上部分AI API中转站推荐与评测项目，都提到了掺水率
对于许多通过第三方API、聚合平台或中转服务调用模型的国内用户，这大概是经常遇到的困扰。
一个看似简单的模型请求，实际需经过“用户—中转站—上游服务商—模型”多个环节，只要其中任何一环缺乏透明度，我们就很难确认自己购买的是否与标价对应的模型一致。
图｜研究链接：https://www.anthropic.com/research/provable-inference
Anthropic最近发布的一项研究，试图将这个只能依赖口碑、截图和主观感受来争论的问题，转化为一个可通过数学验证的问题。
这套名为FlashProve的开源研究原型，能够为模型推理生成密码学证明。它旨在让服务商为模型的计算结果提供密码学证明，用户无需获取模型权重，也无需自行运行大模型，即可进行核验。
图｜
不公开模型，也能证明“你就是你”
除了使用模型厂商的官方应用或从官网调用API进行对话，我们通常能确认模型的使用情况。在大多数API调用中，用户提交问题，服务器返回回答，但模型实际运行在远程机器上，我们无法得知后台究竟执行了哪些计算。
斯坦福大学的研究项目《Model Equality Testing》曾测试2024年四款Llama模型的31个商业API端点，发现其中11个端点的输出分布与Meta发布权重的参考分布存在统计差异。
图｜
同一个模型名称，有时并不代表相同的性能。即便服务页面都显示为Opus 5.5，也无法保证用户获得完全一致的模型。
有时我们希望通过几个问题来鉴别模型，就像最近内测Opus 5.5时，有网友建议问它2026年5月Karpathy去了哪里，如果模型答不出他去了Anthropic，就说明它没有被测试到。
但依靠这些问题来鉴别模型，还会遇到模型厂商自身路由的问题，往往难以直接定位原因。比如偶尔答错、参数不同、上下文未传完整，或者后台更换了模型，最终都可能表现为“怎么变笨了”、“这不是我想要的模型吧”。
FlashProve的核心，是一种名为zkSNARK的零知识简洁证明技术。
图｜
首先，模型服务商为权重生成一个“承诺”，它类似于一组密码学指纹，能够唯一锁定特定权重，但不会公开权重本身。
随后，服务商针对给定的输入与待检查输出，生成一份证明，核验这些输出是否符合事先约定的模型计算。用户拿到模型承诺、提示词、回答和证明文件，就可以在自己的电脑上检查：这套被锁定的权重处理这段输入时，是否确实会产生这些输出。
图｜
如果中转站偷偷换了模型，或者有人修改了输出，证明便无法与原来的模型承诺对应。
这里用到的零知识证明也很关键，目的是让验证者在确认计算结果时，不会因此获得模型权重、中间计算值，以及MoE模型在各层调用了哪些专家。
图｜
这也解释了它为何比“让AI自报家门”更可靠。回答里写的模型名称不再充当身份证明，检查的是输出与指定权重之间的计算关系。
一台笔记本就能核验
过去，为大模型生成零知识证明的最大障碍是成本。证明过程可能比普通推理慢几个数量级，证明文件也可能非常大。
图｜
Anthropic使用公开的4-bit权重Llama 4 Maverick进行实验。这是一个拥有4000亿参数的混合专家模型，每个token实际激活约170亿参数。根据Anthropic公布的数据：
- 单张H100生成证明的吞吐量约为110 tokens/秒；
- 每个1,024-token请求的证明约为19 MB；
- 验证不需要GPU，在24线程CPU上约需17秒，单线程约需21秒；
- 模型权重的初始承诺只需生成一次，耗时约39分钟。
不过这里的110 tokens/秒是证明生成速度，而非用户聊天时的模型输出速度。证明依然昂贵，在Anthropic的对比条件下，其GPU时间约为普通vLLM推理的70～95倍。
图｜
尽管不是免费，但这套方案将一种过去几乎难以承受的验证方式，推进到了开始具备实际想象空间的阶段。
但解释不了“降智”
对于中转站用户，这项技术最直接的吸引力是识别模型替换。但这里有一个关键前提：我们必须提前知道正品模型的承诺是什么。
如果中转站拿出一份有效证明，却只能证明回答来自它自己选择的模型B，而用户无法确认模型B与自己购买的模型A是否相同，那么这份证明仍然解决不了身份问题。
真正有效的使用方式，应由模型厂商、可信机构或公开透明的登记系统发布模型承诺，用户验证时固定检查这个预期指纹。在这个前提下，FlashProve才能从“某次计算确实发生过”，升级为“我们购买的那次计算确实发生过”。
图｜
在社交媒体上，网友们对这项技术更多的评论是：“如果这能最终终结那些‘他们是不是悄悄削弱了模型’的帖子，那就太好了。”
图｜
毕竟对我们来说，最理想的结果一定是：“你们不要再吵了，把证明拿出来就好了。”
但即使权重身份已确认，“降智”也可能有其他原因。
模型权重没有变化，并不意味着服务完全没有变化。系统提示词、安全策略、上下文截断、检索内容、量化方式和解码参数，都可能影响最终体验。要排查这些问题，需要明确每项条件是否也被核验覆盖。一个绑定权重的证明，不能自动回答所有产品层面的问题。
图｜
Kimi团队在介绍Kimi Vendor Verifier时提到，自K2 Thinking发布后，他们收到了社区关于跑分异常的反馈，调查确认其中相当一部分案例来自解码参数误用。团队随后在Thinking模式中约束相关参数，并检查思考内容是否被正确传回。
要让商家拿证明，还得先有人愿意出
尽管距离消费级普及仍有距离，这项技术展示的方向已经足够重要。
Anthropic这次同时公开了代码、技术报告和Lean形式化证明。根据技术博客介绍，Claude参与了系统构建和优化，协议文档与部分代码也由AI生成。
图｜
对于中转服务，实际接入还需要上游参与。模型厂商或持有权重的运营方需要建立可信的模型承诺、生成证明，中转平台再把相关内容交给用户。例如，用户通过开云新版App下载这类平台获取服务时，若能获得此类证明，就能更放心地使用。
但如果服务商将来能够持续提供这类证明，我们投诉“你是不是换了模型”时，就有机会得到一份可自行检查的答复。
对模型厂商而言，它也有助于发现被入侵的推理服务器，确认实际运行的权重是否经过授权。
对评测机构和监管方而言，它则可能用于确认接受测试的模型与正式提供服务的模型是否一致，或检查服务商是否使用了未经批准的模型。
当然，所有这些应用都还需要更低的证明成本、更长的上下文支持、覆盖真实推理配置，以及一套可信的模型承诺发布机制。
图｜
FlashProve不会立刻终结网上那些“他们是不是悄悄削弱了模型”的帖子。即使未来权重可以验证，人们仍然可以继续争论系统提示词、解码策略和产品设计是否发生了变化。
但至少，对于模型有没有被掉包这件事，我们有机会从过去靠几个问题猜测、凭感觉争论，变成拿出一份证明，直接验证。
毕竟，我们花钱购买了指定模型的服务，确认自己收到的确实是它，本来就不应该是一件需要靠猜的事情。
本文来自微信公众号“APPSO”，作者：发现明日产品的APPSO，36氪经授权发布。