塔斯娱乐资讯网

小巧省钱又能打!联想推出首款国产AI主机,个人桌面122B大模型! 可能有人觉

小巧省钱又能打!联想推出首款国产AI主机,个人桌面122B大模型!

可能有人觉得这个说法有点夸大,但这些全部经得起推敲!

先说国产:因为这是一款国产芯片(兆芯KX-7000)+国产系统(银河麒麟系统)的国产AI主机。
再说AI:联想开天AI主机搭载兆芯KX-7000,最关键的NPU部分则是后摩LQ50-24G NPU,一颗芯片就有160TOPS的INT8算力,如果再加一张选满两张NPU,最高就有320TOPS的本地算力。
在这套组合下,联想开天可以做到MoE 122B量级大模型本地推理,以及最高20万Token长上下文处理,就这还需要订阅云端Token吗?
最关键一点,这款AI主机非常小巧,体积1.6L,跟三瓶矿泉水差不多。重约1.5KG,3斤的重量比一些轻薄笔记本电脑差还轻,一个盒子大小,放桌子上就能本地跑千亿大模型,这也太强了!
最最最关键一点,它还省钱,订阅过Token的都知道,一年的订阅费少则大几千,多则好几万。
联想开天AI主机本地部署一次投入,终身可用,不再给云端Token付费!并且本地部署还是你的个人专属,少了很多限制,7*24小时为你服务不说,还安全又稳定。国产算力装进小盒子了