9.0
重磅
AI SCORE
模型发布2026-10-16 10:26
Meta 推出百万上下文开放权重模型
MarkTechPost#Meta#开放权重#MoE
Editor brief · 编辑速览
据报道，Meta 发布 Muse Spark Open：采用 MoE 架构，总参数 8160 亿、激活参数 420 亿，上下文长度为一百万 token。报道还称其在 MCP-Atlas 上领先开放模型，并可在两台 M5 Ultra Mac Studio 上运行。
人工智能
Meta Superintelligence Labs 发布了 Muse Spark Open，这是 Muse Spark 模型的开放权重版本。Muse Spark Open 是一个总参数量为 816B 的 Mixture-of-Experts（MoE）模型，每个 token 激活 42B 参数。它支持文本、图像、视频和音频输入，输出文本，拥有 1M token 的上下文窗口。Meta 团队称，这是迄今能力最强的美国开放权重模型。对开发者而言，真正值得关注的是部署：NVFP4 版本可以在两台搭载 Apple M5 Ultra 的 Mac Studio 上运行。
规模：总参数量 816B，每个 token 激活 42B 参数；共有 256 个 expert，每个 token 激活其中 8 个；上下文窗口为 1M token。
运行硬件：通过 MLX 在两台 Mac Studio 上运行，每台搭载 M5 Ultra 和 512 GB 内存；NVFP4 版本可使用 4 张 Blackwell Ultra GPU 或 8 张 H200；Unsloth 2-bit GGUF 版本可在约 300 GB 内存的配置上运行。
性能：Agent 工具使用能力突出；编程能力在大型开放模型中处于中游。
最佳成绩：MCP-Atlas 得分 89.2，是 Meta 对比表中的最高分。
最弱项：Terminal-Bench 2.1 得分 76.4，落后于 Kimi K3（85.0）、GLM 5.3（83.9）和 Qwen3.8（82.0）。
Muse Spark Open 是 Meta 推出的原生多模态 MoE 模型，面向编程和需要长期规划、持续执行的 Agent 任务。模型权重以 BF16 和 NVFP4 格式在 Hugging Face 上发布。开放版本接受了额外的安全后训练。Meta 团队表示，这让模型在没有系统级防护措施的情况下也能更加稳健。
模型卡列出的架构包含 62 层，隐藏维度为 8192。每个 MoE 层包含 256 个 expert，top-k 路由为每个 token 激活其中 8 个。Attention 采用 grouped-query attention，包含 128 个 query head 和 16 个 KV head。视觉输入由一个独立的、参数量为 1.8B 的 Perception Encoder 处理。词表包含 202,048 个 token，训练数据覆盖 100 多种语言。
推理深度通过 reasoning_effort 设置，可选值为 low、medium、high 或 xhigh。默认值为 xhigh。
Meta 在最高推理强度下，将它与 Kimi K3、GLM 5.3、Qwen3.8-2.4T-A95B 等模型进行了对比。它最突出的成绩集中在工具使用和知识可靠性方面：
编程是它的短板。在使用 Terminus 2 测评框架的 Terminal-Bench 2.1 上，它的得分为 76.4。Kimi K3 达到 85.0，GLM 5.3 为 83.9，Qwen3.8 为 82.0。它的 Artificial Analysis Intelligence Index 得分为 39，落后于 GLM 5.3（45）、Kimi K3（44）和 Qwen3.8（40）。因此，“能力最强的美国模型”这一说法成立，但中国开放模型的整体表现仍然领先。
部分竞品分数由厂商自行报告；评测方法文档列出了各项数据的来源。
根据 Meta 的开发者指南，BF16 权重大小约为 1.6 TB。NVFP4 仅量化 expert，权重大小约为 530 GB。模型卡建议，NVFP4 至少需要 700 GB 显存，BF16 至少需要 2 TB 显存。
数据中心：NVFP4 版本使用 4 张 Blackwell Ultra GPU 或 8 张 H200。
桌面端：两台各配备 512 GB 内存的 M5 Ultra Mac Studio，通过 Thunderbolt 5 连接并使用 RDMA。MLX 的 tensor parallelism 会将每一层拆分到两台机器上。
工作站：Unsloth Dynamic GGUF 提供低至 2-bit 的版本，可装入合计约 300 GB 的内存。
首日支持的推理引擎包括 SGLang、vLLM、TensorRT-LLM、Hugging Face Transformers、MLX、llama.cpp 和 Unsloth。Baseten、Fireworks AI、Groq、Modal、Nebius、OpenRouter 和 Together AI 已上线托管 API。OpenRouter 标出的价格为每 1M 输入 token 1.25 美元，每 1M 输出 token 4.25 美元。
两个 draft model 可用于加速解码：面向 SGLang 的 DFlash V2，以及面向 vLLM 的 DSpark。Meta 报告称，在 AMD MI355X 上使用 DFlash V2，单请求吞吐量可达到原来的 3.7 倍。微调支持 TorchTitan、Hugging Face TRL 和 NVIDIA NeMo AutoModel。
Muse Model License 允许使用、微调、蒸馏和再分发。其中有两项最重要的条件：
内部使用、研究，以及用模型支持自有产品功能的场景，不受上述营收条款限制。
| 特性 | Muse Spark Open | Kimi K3 | GLM 5.3 | Qwen3.8-2.4T-A95B |
|---|---|---|---|---|
| 总参数量 | 816B | 2.8T | 753B | 2.4T |
| 激活参数量 | 42B | 104B | 约 40B | 95B |
| 上下文窗口 | 1M | 1,048,576 | 1,048,576 | 原生 262,144，最高 1,010,000 |
| 输入 | 文本、图像、视频、音频 | 文本、图像、视频 | 文本 | 文本 |
| 许可证 | Muse Model License | Kimi K3 License | glm-5.3 license | qwen3.8-max license |
| 发布的权重格式 | BF16、NVFP4 | MXFP4（QAT） | BF16、FP8 | BF16 |
| AA Intelligence Index（据 Meta） | 39 | 44 | 45 | 40 |
| Terminal-Bench 2.1，Terminus 2（据 Meta） | 76.4 | 85.0 | 83.9 | 82.0 |
| MCP-Atlas（据 Meta） | 89.2 | 82.3 | 84.2 | 84.5 |
| Toolathlon Verified（厂商报告） | 72.8 | 76.5 | 73.0 | 72.5 |
| HLE，使用工具（厂商报告） | 61.0 | 56.0 | 62.5 | 56.2 |
| DeepSWE 1.1（厂商报告，使用各自测评框架） | 60 | 67.5 | 66.9 | 56.6 |
| 桌面端配置 | 两台 M5 Ultra Mac Studio | 未披露 | 未披露 | 未披露 |
总参数量 816B，激活参数量 42B，上下文窗口 1M，支持文本、图像、视频和音频输入。
在 Meta 的开放模型对比表中，MCP-Atlas（89.2）和 JobBench（61.8）成绩领先。
Terminal-Bench 2.1 得分为 76.4，落后于 Kimi K3、GLM 5.3 和 Qwen3.8。
NVFP4 版本可通过 MLX 在两台 M5 Ultra Mac Studio 上运行。
大多数使用场景免费；营收超过 2,000 万美元的 MaaS 服务商需要另行签约。
欢迎查看模型权重、研究博客、开发者指南和评测方法。所有功劳归于该项目的研究人员。也欢迎在 Twitter 上关注我们，别忘了加入我们拥有超过 15 万名成员的机器学习 SubReddit，并订阅我们的 Newsletter。等等！你在用 Telegram 吗？现在也可以在 Telegram 上加入我们。
Asif Razzaq 是 Marktechpost AI Media Inc. 的 CEO。作为一名富有远见的创业者和工程师，Asif 致力于发挥人工智能的潜力，推动社会公益。他最近的一项事业是推出人工智能媒体平台 Marktechpost。该平台以深入报道机器学习和深度学习新闻而脱颖而出，内容既有扎实的技术基础，也易于广大读者理解。平台每月浏览量超过 200 万，体现了它在读者中的受欢迎程度。