阶跃开放 Step 5 预览版权重，支持百万上下文

人工智能

StepFun 已开放 Step 5 Preview 的模型权重，FP8 和 BF16 checkpoint 现已上线 Hugging Face 和 ModelScope。Step 5 Preview 是 StepFun 面向长程 Agent 任务打造的稀疏 Mixture-of-Experts（MoE）模型，总参数量为 600B，每个 token 激活 27B 参数，最高支持 1M tokens 的上下文。对开发者而言，编程 Agent、文档分析和金融工作流又多了一个可以自行部署的选择。

规模：总参数量 600B，每个 token 激活 27B 参数，上下文最高支持 1M tokens。

运行硬件：仅支持数据中心 GPU。FP8 需要 4 张 B300 或 8 张 H200；BF16 需要 8 张 B300 或 16 张 H200。

性能：编程表现接近同为开放权重模型的 GLM-5.3 和 Kimi K3，落后于 GPT-6 Astra 和 Claude Opus 5。

最佳表现：在 Artificial Analysis 的 AA-LCR 长上下文推理测试中取得 88.3%。

最弱表现：Terminal-Bench 4.0 得分为 33.3%，相比之下，GLM-5.3 为 41.9%。

什么是 Step 5 Preview？

Step 5 Preview 是 StepFun 面向 Agent 任务的旗舰模型。StepFun 将其定位于软件工程、专业知识工作和金融领域。该模型能够理解大型代码库，协调跨文件修改，运行代码，并根据运行结果持续迭代。它还可以分析长文档、图表、截图和视频，生成结构化报告。

API 于 9 月 20 日上线，模型权重随后于 10 月 14 日发布。

它的架构如何运作？

在 600B 总参数中，每个 token 只会激活 27B 参数。StepFun 技术团队还披露了以下内部细节：

深度：采用窄而深的设计，共有 92 个 Transformer block。

Attention 组合：gated sliding-window attention 与 full attention 层按 3:1 的比例交错排列。

Sparse GQA：full attention 层为每个 query 选取 4,096 个历史 token，以每组 8 个 token 为单位评分。

Speculative decoding：通过 MTP-3 head，端到端速度提升约 30%。

训练：采用 FP8 混合精度，并在百万级可验证 Agent 环境中进行 RL。

Step 5 Preview 在基准测试中的表现如何？

StepFun 在 High 推理设置下进行了内部评测，而对比图中的竞品使用的是 Max effort，因此这并不是相同条件下的比较。

Hugging Face 模型卡公布的结果如下：

• DeepSWE v1.1：67.7（使用 SWE-agent 评测框架，temperature 1.0，top_p 0.95）
• Terminal-Bench 4.0：33.3
• Agents’ Last Exam（ALE-CLI）：29.5

独立评测数据来自 OpenRouter 上展示的 Artificial Analysis 结果。该模型的 Intelligence Index 得分为 43.7，AA-LCR 为 88.3%，Humanity’s Last Exam 为 46.5%，GDPval-AA 为 54.3%。

Vals AI 的结果揭示了明显短板：SRE Bench 为 0.4%，Harvey’s Legal Agent Benchmark 为 9.2%。

金融方面，StepFun 的对比图显示，该模型在 FrontierFinance 上取得了 66.4%，超过 GLM-5.3 和 Kimi K3，但落后于 Claude Opus 5 的 69.7%。

它与其他开放权重模型相比如何？

特性	Step 5 Preview	GLM-5.3	Kimi K3
总参数量	600B	753B（HF 文件大小）	2.8T
激活参数量	27B	未披露	104B
上下文窗口	1M	1M	1M
输入模态	文本、图像（API 还支持视频）	仅文本	文本、图像
权重格式	FP8、BF16	BF16、FP8	MXFP4 权重
许可证	StepFun Model License 1.0	GLM-5.3 license	Kimi K3 License
已列出的最低自行部署配置	4 张 B300（FP8）	未披露	未披露
DeepSWE v1.1（StepFun 公布）	67.7	66.9	67.5
Terminal-Bench 4.0（StepFun 公布）	33.3	41.9	12.6
FrontierFinance（StepFun 公布）	66.4	64.1	62.6
每 1M tokens 的 API 价格（输入 / 输出）	$1.00 / $2.70	未披露	$3.00 / $15.00

表中的基准测试数据来自 StepFun 的对比图，由 CellCog 和 eesel 转录。

运行 Step 5 Preview 需要什么硬件？

这是一个面向数据中心的模型。仅 FP8 checkpoint 就有 650.32 GB。列出的配置如下：

• 在 vLLM 或 SGLang 上运行 FP8：单节点配备 4 张 B300 GPU，或单节点配备 8 张 H200 GPU。
• 在 vLLM 上运行 BF16：单节点配备 8 张 B300 GPU，或双节点共配备 16 张 H200 GPU。
• Transformers：仅支持离线生成。完整的 BF16 分片工作流尚未完成端到端验证。

vLLM 和 SGLang 均提供专用 Docker 镜像，并提供兼容 OpenAI 的 API。在 Blackwell 上，expert-parallel 模式使用 MegaMoE 后端。StepFun 推荐设置为 temperature 1.0、top_p 0.95 和 top_k 0。

API 费用是多少？

StepFun API 的输入价格为每 1M tokens $1.00，输出价格为每 1M tokens $2.70。缓存命中价格为每 1M tokens $0.10。输出费用包含推理 token。API 支持 low、medium 和 high 三档 reasoning effort，以及 tool calling 和 JSON Schema 输出。

600B 总参数的 MoE，每个 token 激活 27B 参数，支持 1M 上下文，现已开放 FP8 和 BF16 权重。

已列出的最低自行部署配置：4 张 B300 GPU，使用 FP8。

最佳独立评测成绩：AA-LCR 长上下文推理测试取得 88.3%。

最弱项：Terminal-Bench 4.0 得分为 33.3%。

API 每 1M tokens 的输入费用为 $1.00，输出费用为 $2.70。

欢迎查看 Hugging Face 上的模型权重、GitHub 仓库、技术博客、BF16 权重、ModelScope 和 API 文档。所有功劳归于该项目的研究人员。也欢迎在 Twitter 上关注我们，别忘了加入我们拥有 150k+ 成员的机器学习 SubReddit，并订阅我们的 Newsletter。等等！你用 Telegram 吗？现在也可以在 Telegram 上加入我们了。

Michal Sutter 是一名数据科学专业人士，拥有帕多瓦大学的数据科学理学硕士学位。他在统计分析、机器学习和数据工程方面有扎实的基础，擅长将复杂数据集转化为可指导行动的洞察。