11月18日,后摩智能与晶心科技(Andes Technology)正式达成战略合作。 双方将围绕下一代端边 AI 芯片平台开展深度技术协同,结 合 后摩智能自主研发的存算一体(CIM)架构与Andes晶心科技 AndesC ore ® AX 46MPV 64 位多核向量处理器 IP, 共同推进高性能、高能效异构计算架构创新,为大模型在终端设备及边缘场景的高效部署提供算力支撑。
随着生成式大模型加速向终端设备延伸,端边 AI 芯片面临着日益严峻的算力与能效挑战。尤其是在大模型推理过程中,海量数据需要在存储与计算单元之间频繁流动,传统冯·诺依曼架构受限于数据搬运带来的带宽与功耗开销,难以在有限的芯片面积和功耗预算内满足大规模 Token 处理需求。
针对这一挑战,后摩智能 以SRAM-CIM为根技术,持续推进计算架构和封装技术创新,形成2D CIM与3D CIM两条技术路径,分别面向更大容量和更大带宽的需求。 通过将计算与存储深度融合,减少数据搬运,从架构层面突破传统计算架构的“存储墙”与“功耗墙”限制,大幅提升芯片能效比和端侧 AI 推理效率。相较传统方案,后摩智能的存算一体技术 可将芯片面积压缩至约30%,芯片功耗缩减至10%, 为大模型在终端设备上的高性能、低功耗部署创造条件。
在持续发挥存算一体架构优势的同时,后摩智能也在推进下一代端边 AI 芯片的异构计算架构创新。大模型推理不仅需要高效的矩阵计算能力,也对主控处理器的控制流处理、任务调度及数据管理能力提出了更高要求。为此,双方将结合各自技术优势,推动存算一体计算引擎与高性能向量处理器深度协同。
在这一架构中,后摩智能自主研发的原生IPU 架构,依托SRAM-CIM 存算一体技术单元,主要承担大模型推理中的高密度神经网络矩阵运算,包括 Transformer 模型的 Prefill 与 Decode 加速;Andes晶心科技 AndesCore ® AX46MPV 则承担复杂控制流处理、存算单元驱动及相关任务协同,为整套异构计算架构提供高性能主控计算能力。双方的技术融合,将进一步提升下一代 AI 芯片平台的整体计算效率。
后摩智能创始人、CEO吴强博士表示: “在 Agent Computer、智能移动终端、具身机器人及边缘推理等端边设备上部署本地大模型,必须同时突破算力密度与内存带宽的双重壁垒。Andes晶心科技的 AX46MPV 向量 CPU 提供了出色的算力密度、内存带宽效率与架构灵活性。将 AX46MPV 与我们的 SRAM-CIM 和 IPU 架构相结合,能够极大地提升能效比,为高达千亿参数的大模型提供开创性的性能表现。”
Andes晶心科技总经理兼首席技术官苏泓萌博士表示: “专用的 AI 加速器与存算一体引擎需要同样敏捷的 CPU 来维持计算流水线的饱满运行。后摩智能曾经使用过我们的 NX27V 向量处理器,对于他们作为老客户再次选择 AX46MPV,我们感到十分荣幸。我们期待继续深化合作,共同推进端边 AI 性能的飞跃。”
此次战略合作将进一步完善后摩智能下一代端边 AI 芯片技术体系,加速存算一体架构与高性能通用计算的深度融合,持续提升面向大模型的端边算力竞争力。目前,后摩智能已推出 后摩漫界® M50 系列端边 AI 芯片及硬件产品,产品定点已达170余项, 覆盖 Agent Computer、智能移动终端、具身机器人及边缘推理等多个领域,以高能效算力推动大模型在终端设备与边缘场景的规模化落地。
从 M50 的商业化落地到下一代芯片平台的持续演进,后摩智能将继续以存算一体技术为核心,融合高性能通用计算与专用 AI 加速能力,构建面向大模型时代的高能效端边 AI 算力体系,推动大模型在更多终端设备与边缘场景中落地应用。