Axion开源模型用三阶段训练挑战商业Agent
字节跳动与多所美国高校推出Axion 1.0,称其仅经三个训练阶段便在基准测试中接近OpenAI和Anthropic的顶尖商业模型。团队将收益归于精心筛选的数据,并开放模型、数据与代码。
AI 深度解读
AI Agent 要自己查网页、运行代码、完成多步任务,训练流程是否也必须越来越复杂?字节跳动与几所美国大学的研究团队提出:三个步骤就够了。他们质疑,把越来越多训练阶段叠在一起,既难判断收益来自哪里,也让复现变贵。
但当前提供的原文只有开头,后面便进入 THE DECODER+ 订阅提示。具体是哪三个步骤、开放了什么模型、竞争力如何验证,都没有展开。因此,这份材料值得讨论的是研究问题;它还不足以证明哪些训练阶段可以删掉。
训练阶段越多,为什么反而难判断效果
原文关注的是 AI Agent 的训练流程。这里的 Agent,可以理解为能够围绕一个目标连续采取行动的模型:先查资料,再运行代码,最后完成需要多个步骤的任务。
这些能力背后的训练方法,正在变得越来越复杂。按照原文对论文的转述,许多开发者会连续堆叠多个训练阶段,流程之间的嵌套也越来越多。
团队提出的第一个问题,是效果难以归因。最终模型表现更好了,到底是哪一步起作用?某个阶段是否真的必要?当多个阶段一起变化时,仅看最终成绩,很难回答这些问题。
流程复杂度增加,并不能单独证明每个训练阶段都有价值。
不过,原文没有列出具体流程,也没有展示逐项移除训练阶段的实验。我们能确认的是作者提出了归因困难,不能进一步断言现有流程中的某一步已经被证明无效。
「三个步骤就够」目前能确认到哪里
团队的第二个理由是复现成本。训练阶段越多,复现者需要重建的流程就越长。原文明确说,复现这类工作的代价正在上升,但没有提供训练预算、算力消耗或耗时数据。
针对这个问题,团队试图证明:三个步骤足以支撑相关能力。
这里必须保留「试图证明」这个限定。当前材料没有说明三个步骤各自做什么,也没交代它们依赖什么基础模型、训练数据和计算资源。读者暂时无法据此搭建训练流程,更无法判断省下的成本有多少。
标题还声称,团队用一个有竞争力的开放模型支持了自己的观点。但正文片段没有给出模型名称、开放范围、评测成绩或比较对象。「有竞争力」究竟指哪些任务,当前材料没有说清。
同样,标题里的「大多数训练阶段没有必要」也是一个范围很大的判断。它针对哪些训练方案、能覆盖哪些 Agent 能力,都需要完整论文和实验结果才能核实。
我的判断
我认同这项研究提出的问题:训练流程里的每一步,都应该能解释自己的贡献。复杂流程可能有效,但团队仍然需要知道,收益来自哪个环节,以及为它付出了多少成本。
不过,「三个步骤足够」距离「大多数阶段都可以删除」,中间还缺少可检查的证据。
判断这一主张,至少要看删减阶段后的表现、完整流程的对照结果,以及双方是否使用相近的数据和计算预算。当前片段没有提供这些信息,无法比较简化方案与多阶段方案的实际优劣。
因此,它目前适合作为研究线索,不能直接当作训练选型依据。即使标题提到的开放模型确实表现不错,单个模型的结果也需要结合训练条件理解,不能自动推广到一般团队。
能拿来做什么
- 阅读这项研究时,先补齐三个训练步骤、模型名称、开放范围和评测对照,再判断它是否适合自己的任务。
- 如果团队正在训练 Agent,可以逐阶段记录效果与资源消耗,并通过移除阶段的对照实验检查必要性,避免只保留一个最终成绩。
- 做 AI 编程工具选型时,把模型能否查网页、运行代码、完成多步任务分开验证;仅凭训练流程更短,无法推断它更适合日常开发。