9.0
重磅
AI SCORE
模型发布2026-09-21 14:37
StepFun Step 5 Preview：600B 总参数 MoE 模型，1M 超长上下文，10 月开源
MarkTechPost#MoE#长上下文#开源
Editor brief · 编辑速览
StepFun 发布 Step 5 Preview，稀疏 MoE 架构，总参数 600B、激活 27B，支持 1M token 上下文和图文视频输入，定价 $1/M 输入 token，10 月 15 日开放权重，目标场景包括软件工程 Agent 任务。
StepFun 发布了 Step 5 Preview，这是其面向 Agent 工作负载的新型旗舰模型。目标工作场景包括软件工程、专业知识工作和金融领域。核心卖点是成本——StepFun 团队表示，该模型以显著更低的任务成本实现了相当的智能水平。这就是发布标题中所说的"Pareto 前沿"定位。
可以部署吗？可以的，作为托管 API 和 StepFun 平台两种形式提供。自托管需等待开源权重。StepFun 表示开源权重将于 2026 年 10 月 15 日发布。简单计算可知，600B 参数在 BF16 精度下需要约 1.2 TB 存储，还不含 KV 缓存。权重发布后需要规划多 GPU 服务器硬件。
Step 5 Preview 是一个稀疏的专家混合（MoE）模型。总参数约 600B，每个 token 激活约 27B。即每个 token 激活约 4.5% 的权重。
官方模型文档列出以下规格：
Model ID: step-5-preview
Context window: 1M tokens
Input: text, images, and video
Reasoning effort: low, medium, and high
Streaming, tool calling, JSON Mode, JSON Schema, and prompt caching
在研究任务中，StepFun 团队表示该模型在单次 Agent 操作中协调了 950 次网页抓取。StepFun 团队还记录了通过其 Step Plan 实现的 Claude Code 集成。
据 Pandaily 报道，StepFun 没有加宽网络，而是以窄深布局堆叠了 92 层 Transformer。研究团队认为更深的堆叠为隐式多跳推理提供了更长的路径。这在长预填充期间很重要，此时 Agent 会搜索、运行代码并读取工具返回结果。
训练依赖于在线策略的长周期强化学习。StepFun 引用了 MoE 路由中逐位训练和推理对齐。其他列出的技术包括 MTP-3 投机解码、FP8 MoE 和 KV-cache 卸载。StepFun 报告长周期 RL 的端到端加速超过 3 倍。
Step 5 Preview 以 High effort 运行，而竞争对手以 Max effort 运行。
StepFun 通过 RuntimeWire 报告了这些结果：
| Benchmark | Step 5 Preview | Claude Opus 5 | GPT-6 Astra |
|---|---|---|---|
| FrontierFinance | 66.4 | 69.7 | 55 |
| DRACO | 83.3 | 87.6 | 76.8 |
在编码方面，StepFun 报告 DeepSWE v1.1 得 67.7，StepCodeBench 得 49.0，ProgramBench 得 80.5。GPT-6 Astra 和 Claude Opus 5 在所有三项基准上都保持领先。StepCodeBench 是 StepFun 自有的基准。
StepFun 还进行了两项各持续 24 小时的 Agent 实验。第一项中模型将 H100 内核调优至 508 TFLOPS，Claude Opus 5 为 493。第二项中通过自动化后训练将 Qwen3-30B-A3B 在 AIME24 上从 53.3% 提升至 60%。
独立验证来自 Artificial Analysis。其在 Intelligence Index 上给 Step 5 Preview 评分 44。同价格区间推理模型的中位数为 24。在 StepFun API 上测得输出为每秒 99.8 个 token。
StepFun 的 API 每百万 token 定价：
| Token type | Price |
|---|---|
| Input, cache miss | $1.00 |
| Input, cache hit | $0.05 |
| Output, including reasoning | $2.70 |
Artificial Analysis 给同类模型的中位数定价为输入 $1.88、输出 $10.00。但有一个注意事项：模型在该指数运行中生成了 1.6 亿个输出 token，而中位数为 9200 万。冗长的推理消耗了部分每 token 的节省。
StepFun 的 Step 5 Preview 是一个 600B 总参、27B 激活的 MoE 模型。
它提供 1M token 的上下文窗口，支持文本、图像和视频输入。
API 定价为每百万 token 输入 $1.00、输出 $2.70。
Artificial Analysis 在其 Intelligence Index 上评分 44。
开源权重定于 2026 年 10 月 15 日发布。
What is Step 5 Preview? 它是 StepFun 面向 Agent 编码、知识工作和金融领域的旗舰 MoE 模型。
Is Step 5 Preview open weight? 尚未开源。StepFun 计划开源权重于 2026 年 10 月 15 日发布。
How large is the context window? 每百万 token，据 StepFun 文档。
How much does it cost? 每百万输入 token $1.00，每百万输出 token $2.70。
查看技术详情。所有荣誉归于该项目的研究人员。也请关注我们的 Twitter，加入我们的 15 万+ ML SubReddit 并订阅我们的 Newsletter。等一下！你用 telegram 吗？现在也可以加入我们了。
需要与我们合作推广您的 GitHub 仓库或 Hugging Face 页面或产品发布或网络研讨会吗？联系我们
Michal Sutter 是一位数据科学专业人士，拥有帕多瓦大学数据科学硕士学位。凭借统计学分析、机器学习和数据工程的坚实基础，Michal 擅长将复杂数据集转化为可操作的洞察。