苹果这次不比模型,改当“跑模型的机器”

北京时间 10 月 16 日凌晨 1 点,扎克伯格在社交平台 X 上晒出一张照片:一块显示器下方,并排放着两台银色的 Mac Studio。配文称,Meta 刚刚开源的 Muse Spark Open 在新款 Mac Studio 上“跑得极好”,文末特意致谢了约翰·特努斯(John Ternus)与苹果团队。

44 分钟后,特努斯转发回帖:“在桌面上就能如此高效地运行这种量级的模型,太了不起了。”

互动双方的身份非同寻常:一个是 Meta 的掌舵人,另一个则是上个月刚从库克手中接棒苹果 CEO 的特努斯。据 CNBC 报道,自 2017 年以来,苹果与 Meta 就再没有任何公开层面的业务合作。

不少人的第一反应是意外:这两家积怨颇深的公司,怎么突然走到了一起?

但在我看来,苹果这步棋走得极度务实。通用大模型一时追赶不上,就索性退回自己最有统治力的阵地,把 Mac 打造成谁的开源模型都能跑的底座——台上的模型各凭本事,台下卖的,依然是苹果昂贵的高端硬件。

先看清楚:两台电脑怎么装下 8160 亿参数

据 Meta 官方博客介绍,Muse Spark Open 的总参数量高达 8160 亿,采用的是混合专家架构(MoE):模型内置了多组“专家”子网络,每处理一个 token 只需激活其中一小部分,因此每次实际参与计算的参数量大约是 420 亿。它支持 100 万 token 的超长上下文,主打代码生成与自主智能体任务。Meta 称其为“迄今最强的美国开源权重模型”。

8160 亿参数的模型,难点从来不在算力,而在怎么装进内存。

苹果机器学习研究团队同日发文解释了其中的物理限制:即便把模型做 4 比特(4-bit)精度压缩,模型本身的静态权重依然要吃掉约 493GB 内存。再加上推理过程中不断膨胀的键值缓存(KV Cache)等动态数据,哪怕是一台顶配 512GB 统一内存的 Mac Studio,也根本塞不下。

解法很直接:把模型拆散,分装在多台机器上,彼此之间用雷雳 5(Thunderbolt 5)数据线直连,在高速带宽下实时互传中间计算结果。

按 Meta 开发者文档给出的指引,目前可行的方案只有两种:要么两台 512GB 内存版,要么四台 256GB 内存版。扎克伯格办公桌上那种并排两台的形态,前提必须是还未正式出货的 512GB 顶配版。

速度究竟怎么样?

苹果官方公布的测试数据是:在 8192 token 上下文长度下,双机方案每秒大约能吐出 16 到 25 个 token(取决于模型的具体拆分策略);如果是四台机器并联,每秒生成速度可以达到 37 个左右。

这个速度用来写代码或驱动自动化智能体,已经完全具备实用价值。但必须说明,这目前仅仅是苹果实验室给出的官方数据,市面上还没有第三方在 M5 Ultra 集群上做过公开的独立实测。

整件事的分工其实很纯粹:Meta 负责交付模型权重,苹果负责提供高带宽统一内存硬件并调优底层的 MLX 框架。

关键在于:Meta 的模型没有进 iPhone,也没有变成消费级的 Siri。

为什么我说这是务实的平台打法

先说“模型赛一时追不上”的现实。

CNBC 报道提到,苹果上个月推的新版 Siri,实际表现依然赶不上头部 AI 实验室的聊天机器人与智能体。苹果在模型层面的合作对象也换得频繁:2024 年高调接入 ChatGPT,结果据 OpenAI 在诉讼文件里的说法,那次整合“表现大幅低于预期”;今年又转身找谷歌签下 Gemini,来支撑 Apple Intelligence 的日常运转。

自研通用大模型既然短期难有胜算,苹果就把目光转回了自己最擅长的桌面硬件。

今年 8 月苹果发布这一代 Mac Studio 时,给它的定位就是“本地 AI 的终极桌面”,宣传语里还特意强调了“不用数 token”。这次 Meta 也在技术博客中明确写道:想在自己的桌面上跑起这种量级的顶级模型,Mac Studio 配合 Muse Spark Open 是最好的方式。

更有意思的是,苹果压根没有把赌注单押在 Meta 一家身上。

在苹果研究团队的技术博客里,他们不仅测了 Meta 的模型,还同步测试了阿里巴巴的通义千问(Qwen 3.8)以及法国开源独角兽 Mistral 的模型。后面这两款模型规模稍小,单台 512GB 的 Mac Studio 就能轻松装下。

这就是两种完全不同的境遇:在 iPhone 上,苹果不得不在 OpenAI 与谷歌之间反复取舍、受制于人;但在 Mac 上,模型不管是来自 Meta、阿里还是 Mistral,跑模型的机器、统一内存架构和底层的 MLX 框架,全都是苹果自家的。

模型谁胜谁负不重要,只要开发者想在本地跑,买的都是苹果的硬件。这就是典型的平台打法。

商业许可证也给这种玩法铺平了路。Muse Model License 并非完全无条件放开:如果你把模型包装成云端 API 卖给第三方,且关联企业在连续 12 个月内营收超过 2000 万美元,必须向 Meta 另买商业授权;但如果是企业内部自用、科研探索,或是作为自家软硬件产品功能的一部分,只要保留“Built with Muse Spark Open”署名并遵守使用守则,完全不受这笔营收门槛限制。

三个质疑,我怎么看

这种做法自然会引来各种质疑。挑其中最核心的三条来看:

第一条质疑:太贵了,门槛太高。

价格确实非常昂贵。据 CNBC 报道,搭载 M5 Ultra 芯片、配备 256GB 内存的 Mac Studio 起售价为 10799 美元;M5 Ultra 基础款起价 5499 美元,国行起售价高达 46999 元。而能实现“双机互联”的 512GB 版本售价尚未公布,苹果官网仅标注“10 月末推出”。按已知价格推算,四台 256GB 的设备总价至少要 4.3 万美元;两台 512GB 的花费也必然会超过 2.16 万美元(以上推算均不含税费与高规格配件)。

部署起来同样很折腾。Meta 给出的配置指南显示,安装流程“预计耗时约 4 小时”:每两台机器之间建议拉两根雷雳 5 数据线做冗余直连,每台电脑还要各自下载并保存一份近 500GB 的完整模型文件。而在 6.5 万 token 的长上下文测试中,四台机器等第一个字生成出来,需要足足等上约 40 秒。

个人开发者伊万·菲奥拉万蒂(Ivan Fioravanti)曾用两台上一代 M3 Ultra(均为 512GB)做过类似尝试,这是目前极少数可参考的独立实测:在 8K 上下文下,首字等待时间约 30 秒,后续生成速度约为每秒 12 个 token。这不能直接代表 M5 Ultra 的水准,但足以说明首字延迟是个实实在在的瓶颈。

但拿“贵”来否定这个方案,前提是把它当成了卖给普通人的大众消费品。

平台打法不需要人人都买两台 Mac Studio,它要证明的是:当前最大一档的开源模型,在桌面上是完全跑得通的。

想用这个模型的人本就有多种路径。同一款模型在发布首日就上线了七家第三方 API 平台,按需付费最省心。而对那些坚持本地部署的用户,Meta 列出的官方硬件选项包括:4 块英伟达 B300 或 GB300 GPU、8 块 AMD MI355X/MI350X、英特尔至强 6 处理器,以及 Mac Studio。

与传统的 GPU 机架服务器相比,Mac Studio 真正的杀手锏在于“桌面”两个字。

单台 M5 Ultra 在满载运行大模型时的峰值功耗只有 300 瓦左右,插上家用插座就能安静工作,既不需要专用机房、机柜散热,也不用承担动辄数千瓦的电费与噪音。对需要代码保密、本地数据合规的团队来说,机器放在办公室桌下,数据根本不出门。

更何况,绝大多数日常模型根本用不着这么夸张的硬件:阿里千问和 Mistral 的主力模型,单台 Mac Studio 就能从容应对。8160 亿参数的巨兽,本就是用来帮苹果宣示桌面硬件天花板的。

第二条质疑:这不是 Meta 最强的模型。

这是客观事实。CNBC 报道指出,Meta 本周早些时候发布的闭源模型 Muse Wonder,综合能力明显强于 Muse Spark Open。Meta 首席 AI 官亚历山大·王(Alexandr Wang)在受访时也直言:“这些不是我们开发过的最强模型。”

第三方评测机构 Artificial Analysis 的数据显示:Muse Spark Open 的综合智能指数为 39 分,而闭源的 Muse Wonder 达到了 52 分。差距最悬殊的是终端编程测试(Terminal-Bench 4.0),两者得分是 8% 对 52%,而写代码恰恰是这款开源模型主打的核心场景。

但关键在于:Muse Wonder 是闭源的,权重根本不对外开放,世界上没有任何一台电脑能把它下载到本地跑。

能放进自己硬盘里的只有开源权重。苹果要抢下的身位,就是“本地运行开源模型的首选硬件”。在这个界限之内,Muse Spark Open 已经是当前 Meta 能够拿出的最大开源模型。

第三条质疑:苹果讲了这么多年隐私,怎么能跟 Meta 站在一起?

两家公司的历史恩怨人尽皆知。2018 年剑桥分析丑闻爆发时,库克被问及如果是扎克伯格会怎么处理,他毫不客气地回应:“我根本不会让自己陷入那种处境。”2021 年苹果推行应用跟踪透明度政策,直接让 Meta 一年损失了近百亿美元收入。扎克伯格在接受乔·罗根(Joe Rogan)访谈时,更是公开抨击苹果“自 iPhone 之后就再没发明过什么了不起的东西”。

这次合作曝光后,海外科技社区里不少用户直言,苹果这是丢掉了自己的道德指南针。品牌声誉上的隐形折损是真真切切的,两家公司过往的裂痕很难轻易抹去。

但这次合作的本质,与当年争夺用户隐私数据的逻辑完全不同。

两家过去争吵的核心,是平台收集并利用用户行为数据。而这次是在本地离线环境跑开源模型,所有提示词与输入数据都不经过 Meta 的服务器。正如亚历山大·王对媒体所说,开发者具体怎么用这款模型,Meta 既控制不了,也根本看不到。

苹果没有把 Meta 引入 iOS 系统的底层,也没有把它接进 Siri。它只是让一个任何人都能下载的开源模型,在自家的 Mac 上跑得比别人更快、更省心。

接下来看什么

这步棋走得务实,但不代表接下来的路会一帆风顺。有三件事值得继续盯紧:

一是 512GB 版本的官方定价。这个月底揭晓的售价,将直接决定双机方案到底要付出多高的资金门槛。

二是真实的第三方实测。实验室里的漂亮数据,必须等待外部开发者在实际生产环境里反复检验,尤其是长时间高负荷运行下的散热与稳定性。

三是两家关系的后续发展。CNBC 报道称,两家公司目前都拒绝透露这是否是一段更深层合作的起点。未来苹果是否会考虑将 Meta 的模型能力引入 Apple Intelligence?如果真迈出那一步,就是另一场完全不同性质的博弈了。

至少在眼下这一步,苹果显得格外清醒:不再硬着头皮去跟头部实验室比拼谁的云端模型更强。既然自研模型短期赢面不大,就把舞台让给开源世界。让 Meta、阿里、Mistral 的模型在桌面上跑起来,台前争奇斗艳,台下把自家的 Mac Studio 卖出去。