Meta正式发布Muse Spark Open权重,这是一款专为编码、软件工程及多步推理打造的8160亿参数开源模型。该模型拥有420亿活跃参数和100万token的上下文窗口。Meta在公告中称,这是迄今为止最强大的美国开源权重模型。

Muse Spark Open原生支持多模态与智能体工作流,可执行涉及多步骤和工具的复杂任务。开发者可通过Hugging Face、Amazon SageMaker AI、Google Cloud Model Garden和Microsoft Foundry Models下载权重,并通过Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter和Together AI等推理平台使用。此外,模型支持使用PyTorch定制,并兼容SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers和llama.cpp等推理引擎。

端侧部署与性能优化

借助Apple MLX机器学习框架,Meta对Muse Spark Open进行了深度优化,使其能在配备M5 Ultra芯片的两台Apple Mac Studio上本地运行。每台Mac Studio提供高达512GB统一内存,双机合计约1TB容量足以容纳模型权重。

Meta基于该模型开发了编码工具Muse Code,并在多种设备端工作流中进行测试,包括修复错误、添加功能,以及利用开源Mastodon客户端Ice Cubes构建iOS应用。演示场景还涵盖操作DaVinci Resolve,模型能逐帧审查素材识别合适片段,并将其裁剪为竖屏视频。Meta表示,这些工作流可完全在设备端运行,无需依赖云端推理。

在性能方面,Muse Spark Open包含针对SGLang推理优化的自定义GPU内核。内核级测试显示,在NVIDIA和AMD GPU上速度提升1.03倍至3.95倍;在AMD MI350 GPU上,端到端性能提升3%。该模型广泛支持AMD、Apple、Intel和NVIDIA芯片,开发者还可利用PyTorch的TorchTitan框架进行微调。

Muse Spark Open依据Muse Model许可发布,包含有限商业条款。虽然允许许多开发者免费使用,但用户在用于商业用途前需仔细审阅相关条件。