8160 亿参数塞进四台 Mac:Meta 的「美国最强开源」,先别急着鼓掌
8160 亿参数的模型,塞进四台 Mac Studio,跑出每秒 36.7 个 token——Meta 的 AI 负责人把它称作美国最强开放权重模型,苹果则多了一个卖 Mac 的理由。
三个关键信息
10 月 15 日,Meta 发布开放权重模型 Muse Spark Open。 据 36 氪和越南通讯社报道,模型采用 MoE 架构,总参数 8160 亿,每次推理激活约 420 亿,上下文窗口 100 万 token。Meta AI 负责人 Alexandr Wang 称它是美国目前最强的开放权重模型,但仍弱于本周早些时候发布的闭源模型 Muse Wonder。
它最大的卖点是能在苹果 Mac Studio 上本地跑。 苹果用 MLX 和雷雳 5 互联做多机推理:4 比特量化后模型约占 493GB 内存,两台 M5 Ultra 用张量并行约 25 token/秒,四台约 36.7 token/秒,首 token 等待约 4.8 秒。代价是 M5 Ultra 版 Mac Studio 起售价 46999 元,四台加上线材和电费,是一笔不小的开销。
Meta 押注开放权重,是在追一个已经被中国公司做热的市场。 今年 8 月 Meta 才发布较小的 Muse Glimmer;这次直接把 8160 亿参数的模型放出来,授权允许一定范围内的商业使用。报道提到,Qwen、Kimi K3、GLM 等中国开放模型已是全球开放权重市场的强劲对手,Meta 需要通过开放权重把开发者拉回自己的生态。
王斗视角
「美国最强开源」这个称号,先别当世界冠军听。它更像美国赛区的 MVP:奖杯是真的,但只在本赛区有效;开放权重这条赛道上,中国模型已经跑了好几圈。Meta 现在把 8160 亿参数放出来,不是突然爱上开源,是发现闭源没占到便宜、开放权重能换生态——这是一笔生态账,不是理想主义的账。
再说「本地 AI」。四台 Mac Studio,每台 46999 元起,合起来近 19 万,跑出 36.7 token/秒。这个速度写代码够用,但离「人人都有本地大模型」还差着好几台 Mac。苹果当然开心:模型越本地,Mac 越好卖。真正被安慰的是那批既要隐私、又买得起工作站的开发者;普通人最后还是会在 API 账单和电费之间做选择。
还有个小字:开放权重不等于开源。权重给了,训练数据、代码和方法未必给,许可证也留了限制。把它叫「开源」,是营销部门的工作;把它当「免费」,是财务部门的灾难。扎克伯格和苹果新 CEO John Ternus 互相道谢,画面很温馨——但别忘了,这段「父母终于和好」的故事里,孩子是那台需要四台 Mac 才能转起来的模型。
