8.0
热点
AI SCORE
编程提效2026-08-17 17:51
Agent 编排选型:代码流确定性强过 LLM 自主规划
dev.to · AI#Agent#LLM编排#架构设计
Editor brief · 编辑速览
文章对比了代码状态机与 LLM 驱动两种 Agent 编排模式,指出固定工作流场景代码流可预测性更高、成本更低,LLM 规划仅在开放式探索场景有优势,并给出 handoffs vs tools 的选用法则。
当你的工作流需要可预测的速度、成本和性能时,基于代码的控制优于 LLM 驱动的规划。选择的本质是结构性的:要么硬编码决策路径,要么让模型自主规划。HCLTech 的多 Agent 架构将案例解决时间缩短了 40%——这就是确定性流程与概率性猜想的区别。
LLM 规划只在需要灵活工具使用的开放式场景中胜出。代码状态机消除了可变性——如果你需要可预测性,就需要代码守卫。没有哪个单一 prompt 能可靠地同时兼顾两者。
经验法则:如果管理者需要叙述结果,用工具。如果专家需要主导对话,用交接。两者也可以组合使用——分诊 Agent 交接给专家,专家再将其他 Agent 作为工具调用来完成窄领域的计算。
人工审核能力而非 Agent 数量,制约着生产级扩展。在人工介入的工作流中,监督的人工成本超过计算费用。在增加更多 Agent 之前,先让 Agent 数量与实际审核带宽对齐。
并行运行可以降低延迟但消耗 token——设置预算上限。评估器循环强制收敛,但每次失败 pass 需要额外的两次模型调用。监控拒绝率来调整评估器的严格程度。
强制 Agent 输出 JSON Schema 而非自由文本,在应用层解析结果,路由就变成了代码验证而非模型猜测。代价是:需要预先定义详尽的类别定义,以及优雅地处理 Schema 验证失败。