
Meta于10月15日正式发布Muse Spark Open模型权重,并称其为迄今为止最强大的美国开源权重模型。
Muse Spark Open是一款原生多模态模型,总参数量达8160亿,其中活跃参数为420亿,支持长达100万token的上下文窗口。Meta表示,该模型专为编程及智能体(Agentic)工作流设计,在长周期任务、复杂软件工程及多步推理场景中表现卓越。
桌面级“超级计算机”方案
据媒体报道,Meta利用苹果最新的MLX框架对模型进行了深度优化,使其能够在两台搭载M5 Ultra芯片的Mac Studio上运行。Meta指出,M5 Ultra集成GPU为每台设备提供高达512GB的统一内存,两台机器即可容纳整个模型;其1.2TB/s的内存带宽足以快速读取每个token所需的碎片化数据。这种组合让两台Mac Studio“表现得像一台拥有1TB统一内存的超级计算机”,被视为在本地桌面运行强大模型的最佳方案。
不过,该方案存在硬件门槛。苹果方面指出,仅模型权重的4位量化存储就需约493GB,加上推理过程中的内存开销,单台512GB内存的Mac Studio无法独立完整运行该模型,必须通过Thunderbolt接口将多台设备互联。
基准测试显示,四台M5 Ultra Mac Studio集群每秒可生成超过36个token,而采用张量并行技术的两台机器组合每秒可达约25个token。
硬件尚未发售,云端服务已就绪
目前,配备512GB内存的Mac Studio尚未上市销售,预计将于本月晚些时候推出;现有的256GB版本售价已超过1万美元。对于大多数开发者而言,组建桌面集群并非必需。Muse Spark Open的权重现已在Hugging Face、Amazon SageMaker AI、Google Cloud Model Garden和Microsoft Foundry Models等平台开放下载,并可通过Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter和Together AI等API平台提供服务。
Meta基于Muse Model许可发布这些权重,该许可包含“有限的商业条款”,允许广大开发人员免费使用该模型。