任务流程何时需要智能体
文章用固定步骤的流水线和由模型逐轮决策的智能体作对照,建议先判断中间结果是否会改变后续步骤。动态决策带来灵活性,也会增加延迟、成本和运行结果的不确定性。
AI 深度解读
先写固定工作流,等你能说清模型需要做哪个决定,再考虑加 Agent。作者曾把一个只有 for 循环、提示词和工具调用的程序叫作 Agent。程序跑成功了,但它的执行路径基本固定,只有一个条件分支。这让作者重新审视了一个问题:每次运行都让模型决定下一步,换来的灵活性值不值额外的耗时、成本和排查难度?
区分 Chain 和 Agent,要看谁决定下一步
Chain(固定工作流)把步骤写在代码里,比如解析输入、检索资料、生成摘要。检索结果会改变摘要的内容,但只要检索之后始终是摘要,执行路径就是固定的。即便加了条件分支,只要分支规则事先写得出来,也可以由代码负责调度。
Agent 则在循环的每一轮让模型根据当前结果决定接下来做什么。作者建议先问,第 3 步的结果会不会改变第 4 步的动作?再把模型实际要做的决定一项项写下来。如果只有「从两个工具里挑一个」和「决定何时停止」,而选择条件与结束条件都能明确表达,用 switch 和显式退出条件就能把行为写清楚。
模型选错一步,多久能发现?
固定流程的某一步出了错,可以沿日志定位,对对应函数补单元测试。Agent 选错后还可能继续调用工具,后续决策又建立在前面的结果上。作者用「偏离任务后又跑了 6 轮」来说明 token 怎么被耗掉,也举了同一个用例连续失败两次、后来又通过的例子。这些数字是说明问题的例子,原文没有给出实测记录。
这也是作者追问怎么测试、有没有人盯着运行的原因。单元测试可以验证工具函数,但还得用评估用例(evals)看整个任务有没有完成,用运行轨迹(traces)查模型在哪一轮做错了决定。演示时有人能及时叫停,放到无人值守的流程里,团队就得自己定义何时停止,以及失败后怎么处理。
开放式任务可以只在一个步骤里用 Agent
作者举的例子是「探索这个代码库,找出鉴权缺陷」。先看哪个模块、发现线索后再追哪段调用,往往要等当前结果出来才能决定。这里的自主性有具体用途,模型可以根据新线索调整调查路径。
作者给出的折中做法是,保留外层固定流程,只让其中一个阶段自主探索,再把结果交给后续固定步骤验证。这样就能把验证边界写清楚,比如要求探索阶段返回相关文件、代码位置和判断依据,后续步骤再检查这些证据能否支撑结论。
我的判断
先列出模型必须做的决定,比先选 Agent 框架更有用。switch 的优势有个前提:路由条件能从已有数据里明确判断。遇到自然语言分类这类边界模糊的输入,也可以只让模型做一次分类,再由固定流程根据分类结果路由。这个做法仍需要评估分类质量,但错误影响的范围更容易界定。
原文最有说服力的是作者对自己程序的拆解,能看出循环、提示词和工具调用本身不足以说明任务需要自主决策。至于 GitHub 上「大多数」Agent 都该改成 Chain,作者没有给样本统计,也没有给同一任务的延迟、费用或成功率对照。把它当作设计评审里的经验之谈更合适。「开放式任务只能靠 Agent」也说得太满,原文没有比较人工主导、模型辅助的探索方式。
能拿来做什么
- 写 Node 文档处理流程时,先把解析、检索、摘要拆成可独立测试的步骤。只有后续动作确实需要依据检索结果改变时,再决定由规则还是模型来选。
- 给 AI 编程工具接入两个工具前,写清各自的调用条件和退出条件。能从输入或已有状态直接判断的,就在代码里显式处理。
- 让编程助手调查陌生代码库时,可以只把探索阶段交给模型,设定最大迭代次数,并要求它返回文件位置和判断依据,再用固定步骤核对。