转发:国产算力的真实水平究竟如何?由中移动内部流出的评估资料可见一斑。
中移动做了四款主流国产芯片(昇腾 910B4、阿里 PPU 1.0、摩尔 S5000、沐曦 C550)实测横评,直接撕开了“跑分党”和“工程派”的真实差距:
决定智算集群能不能做主力的,从来不是单卡峰值,而是“大 EP”与“P/D 分离”等成套工程落地能力。
先用大白话拆解这两个决定大模型推理生死的架构门槛:
- 大 EP(大规模专家并行):现在主流的 DeepSeek、GLM 等 MoE(混合专家)大模型参数动辄数千亿,单张卡根本塞不下。必须把不同“专家模块”拆到几十甚至上百张卡上并行计算——这极其考验卡间高速互联与通信库调度,通信一慢全盘卡死。
- P/D 分离(Prefill/Decode 分离):推理分两步,“读题理解(Prefill)”吃算力,“逐字吐词(Decode)”吃显存带宽。把两阶段拆到不同卡组上各自跑满,集群吞吐才能翻倍。
看懂了这两个底层约束,四款芯片的实测分化就非常骨感了:
- 阿里 PPU 1.0:在密集模型 Qwen3.8-27B 上单卡吞吐飙到 1113 tok/s,首 Token 延迟仅 0.08s,纸面速度全场最快。但致命伤在于不支持大 EP 方案且软件需另购——遇到超大规模 MoE 模型直接卡在通信与切分上,只能退居二线。综合 得分67.37 分。
- 摩尔 S5000 / 沐曦 C550:大 EP 补齐了(沐曦的 CUDA 生态迁移成本也低),但单卡造价飙到 21.88 万和 23.75 万,且首 Token 延迟分别高达 3.9s 和 2.2s(全线超基线),实时交互场景根本扛不住。综合得分分别为 76.84 和 63.46。
- 昇腾 910B4:单卡 Qwen 吞吐只有 471 tok/s,但胜在单卡造价压到 10 万左右,且是现网唯一跑通 P/D 分离部署、完整支持大 EP 的机型,综合得分 89.53 断层第一。
再看最新昇腾950DT 的实测:64 卡超节点靠灵衢高速互联 + vLLM P/D 分离,日产 73 亿 Tokens 可以直接顶替 400 卡 910B;对比 英伟达H200,虽然单卡吞吐只有 H200 的 86%,但靠 8.5 万 vs 13 万的月租金剪刀差,硬生生挤出了 30% 的推理性价比优势。
国产算力的竞争早就过了“单点拼参数”的阶段。超节点互联、集合通信库、P/D 分离调度和 BOM 成本控制,才是真正的护城河。
在你们实际的 MoE 大模型生产环境里,大 EP 的 All-to-All 通信开销和首 Token 延迟(TTFT),通常在多少卡规模下会触发非线性劣化?
国产算力 昇腾