塔斯娱乐资讯网

花一万多买台电脑在家里跑大模型,你觉得图什么? 9月22号苹果开卖新的Mac m

花一万多买台电脑在家里跑大模型,你觉得图什么?
9月22号苹果开卖新的Mac mini和Mac Studio。Mac mini换上M6芯片,2纳米,AI性能比上代最高提四倍。

Mac Studio更凶,顶配M5 Ultra,统一内存能加到512GB,官方说AI性能提升最高4.3倍,能直接在本地跑大模型。

本地跑AI这事,今年明显热起来。门店销售说,不少人进店头一句话就是能不能本地跑大模型。

原因也不复杂,一是云端API按量计费,长期用下来成本不低。二是数据,公司合同和会议录音,还有没公开的稿子,不敢往云上传。

苹果把CPU、GPU和神经网络引擎封在一起,共享统一内存,大模型不用在显存和内存之间来回搬,这是它跑本地模型的独门优势。


可普通家庭用户,真需要吗。

一台能跑大模型的Mac Studio,顶配奔着几万去。而且模型更新快,今天能跑的,明年可能就不够看。对绝大多数人,云上那些免费或便宜的AI,日常够用,本地部署这套,费钱还费心。

我头一回听说有人买电脑专门跑大模型,觉得是发烧友的玩具。后来接触了做开发的,或者碰敏感数据的朋友,才理解,这需求是真的,只是圈子不大。

对他们来说,数据不出本机这一条,就值这个价钱。

对普通用户,本地大模型更像锦上添花,不是非有不可。买之前先想清楚,你是拿它当生产工具,还是图个新鲜。

你会为了数据隐私,多花钱买台能本地跑AI的电脑吗?
Mac性价比 Mac mini Mac mini M6 Mac Studio 本地大模型 你会自己尝试优化本地大模型的运行速度吗 苹果电脑 科技数码 数码爱好者