塔斯娱乐资讯网

Edge0-145B开源,28G显存跑进笔记本 开源端侧大模型迎来里程碑突破!超

Edge0-145B开源,28G显存跑进笔记本
开源端侧大模型迎来里程碑突破!超大规模1450亿参数端侧模型 Edge0-145B 正式开源。通过突破性的 MoE 共享矩阵架构,145B 参数的峰值显存占用被奇迹般压缩至 28GB,个人笔记本实测推理速度高达 80+ token/s,且支持驱动复杂 Agent 与代码任务。社区开发者既惊叹于在 MacBook Pro 上跑 145B 模型的可能性,也在热议首发 NVFP4 格式对生态兼容性的挑战。你平时会在本地部署大模型跑 Agent 吗?能接受个人笔记本常驻 28G 显存吗?欢迎在评论区聊聊你的实测体验! 大模型 开源大模型 本地部署 AI前沿