塔斯娱乐资讯网

6个中国开源模型,权重里留着英伟达芯片的指纹

11月12日,非营利研究机构 Unemployment Labs 发了一份报告,作者 Will DePue 在 OpenAI 参与过 Sora、GPT-4o、o3 和 GPT-5。结论很直接:DeepSeek、月之暗面、MiniMax、蚂蚁集团这四家中国实验室,从今年4月起发布的6个开源模型,权重里留着英伟达 Blackwell 芯片的初始化指纹(Unemployment Labs 报告,11月12日)。

6个模型是 DeepSeek-V4-Flash、DeepSeek-V4-Pro、Kimi K3、Kimi K3.1-Pro、MiniMax-M3、蚂蚁 Ling-3.1-flash。同一批公司更早的模型,比如 DeepSeek-V3、Kimi K2.5,指纹还停在上一代 Hopper。按美国现行规定,Blackwell 的 B200/B300/GB200/GB300 对华出口需要许可证,目前没有公开的许可记录。
指纹不是谁故意写进去的。大模型训练前,PyTorch 要先给几十亿个参数填随机数;随机数由 Philox 算法按“种子”生成,再分给 GPU 的线程去填。芯片的核心数不同,线程数就不同,同一个种子填出来的位置也不一样:Hopper 的 H100/H200/H800 是132个核心、270,336个线程,B200/B300 是148个核心、303,104个线程,GB200/GB300 是152个核心、311,296个线程。训练会改掉大部分数值,但语料里没出现过的生僻词、符号,对应参数几乎原样保留;训练过的部分也留着很弱的统计痕迹。把种子和线程数反推出来,就知道这批权重最初是在哪代芯片上生成的。
证据不算弱。报告拿24个公开过硬件的模型做对照,24个全对;不过其中11个属于同源 checkpoint,报告自己说这只是一致性检查,不是准确率。六个目标模型里,最强匹配达到1,385 sigma,最弱的单项也有20 sigma;而6万亿种种子与布局组合里,纯靠运气的最强匹配大约只有8 sigma。作者还在真芯片上复现:B300 跑 DeepSeek-V4-Flash,469行保留参数里461行相关系数超过0.99,445行逐位一致;租来的 GB200 跑 Kimi K3,13行全部对上。
规模也顺手估了。五轮训练合计约1.2万块 Blackwell,算力相当于约3万块 H100;Kimi K3 约4,500块、跑了70天,DeepSeek-V4-Pro 约3,000块。按每块7万美元算,最大的集群2亿到3亿美元,五个加起来超过5亿美元。这还只是最后一轮训练,不含实验、前序训练和推理。
但这份报告最该被记住的,是它没说什么。指纹只能说明权重在哪代芯片上初始化,不能说明芯片在哪、归谁、怎么来的。中国公司完全可以在海外租算力,报告写得很清楚:这只能证明“用得到”,不能证明走私,也不能证明违反出口管制。Hopper 的读数也不能排除后来换 Blackwell 继续训练;AMD 的 MI300X 理论上能凑出类似布局,报告只在 DeepSeek-V4-Flash 上排除了它;1.2万块这个数还依赖利用率、token 数、训练时长等假设,报告自己标了“不确定”。
还有个容易读错的地方:不是所有中国实验室都换了 Blackwell。阿里 Qwen、智谱 GLM、腾讯、小米、阶跃星辰最新能读的模型,指纹仍是 Hopper;美团 LongCat-2.0 的权重里没有英伟达指纹,公司说全程用“AI ASIC 超节点”训练。把六个模型写成“中国AI全面用上 Blackwell”,是误读。
这件事真正改变的,是取证方式。以前查芯片流向靠海关、线人和报关单;现在,开源模型的权重本身就是一份可复核的证词。开源是抢开发者的手段,也把训练底座摆到了显微镜下。对美国来说,这份报告给了技术证据,却给不了执法结论;对中国公司来说,它证明了算力可达,也提醒了一句:你公开的每一个 checkpoint,都在替你的供应链说话。
截至发稿,DeepSeek、月之暗面、MiniMax、蚂蚁都没有公开回应。
如果以后开源模型要像食品包装一样,标一行“训练芯片”,你觉得该标吗?