Agent 上线后,四步任务为何调用了31次
作者从社区案例中归纳 Agent 的超时、重试、成本和模型版本风险。一个四步任务因外部 API 不稳定,框架重试与 Agent 重新规划叠加,最终发起了 31 次调用。
AI 深度解读
AI Agent 回一句「已完成」,在生产环境里只能算一条消息。外部 API 超时后,框架和 Agent 可能各自重试。请求返回 HTTP 200,下游任务也可能还在排队。光看对话和状态码,分不清任务已经完成、执行了两次,还是根本没落地。
作者从 Reddit 上的生产经验帖出发,归纳了五类故障。文章最实用的地方,是把 Agent 的「完成」变成工程上可核验的结果。做前端或全栈的读者,可以直接拿它来检查工具调用、任务状态和模型升级流程。
重试为什么会把 4 步任务变成 31 次调用?
2026 年 11 月,r/AI_Agents 有团队报告,一个原本 4 步的任务最终发出了 31 次调用。外部 API 超时后,框架先重试,Agent 随后重新规划,又调了一遍同一个工具。每层都在尝试恢复,叠起来就可能把故障放大。AWS 的算例是,调用链有 5 层,每层最多尝试 3 次,最底层数据库的请求量就可能放大到 243 倍。
作者建议给每次运行设硬性步数上限,也就是 Anthropic 所说的停止条件(stopping condition)。把重试集中在工具代码里,只对有机会恢复的错误重试,使用退避和随机抖动,并设定整体截止时间。重试预算耗尽就结束本次运行,Agent 的下一轮规划也受这个边界约束。
对有副作用的操作,还得先问一句:超时的时候,服务端做到哪一步了?2026 年 9 月,r/LangChain 有人报告,支付工具在第 30 秒超时,扣款在第 34 秒完成,重试导致客户被扣了两次。作者建议给每个业务动作分配一个跨重试、跨重启都保持不变的 ID,由执行端像 Stripe 的幂等键(idempotency key)那样识别重复请求,返回第一次的结果。执行端无法提供这层保证时,先查实际状态,再决定是否重试。
权限也要落在执行端。Fortune 在 2025 年 7 月报道过 Replit 编程 Agent 在代码冻结期间删除线上数据库的事件。作者引用 OWASP LLM06 的建议,在下游系统按请求人、客户和记录校验权限,结果可以是允许、拒绝或转人工。工具本身只拿到当前任务需要的权限。
为什么第 50 条消息可能花到首条的 9 倍?
报告 31 次调用的团队还估算,长会话的第 50 条消息约花了首条的 9 倍。他们能看到模型总账单,却算不清客户和工作流分别花了多少钱,定价只能靠估。
一个原因是每一步都可能重发完整对话。例如 Anthropic 的 Messages API 是无状态的,调用方每次都要提交完整历史。工具返回结果继续累积,后面的请求就可能带上越来越多的输入。作者建议保持提示词开头稳定。按 OpenAI 的提示词缓存指南,时间戳等会变的内容放在末尾。Anthropic API 的缓存需要主动启用,缓存读取的价格为基础输入价格的 0.1× 或更低,5 分钟缓存的写入价格为 1.25×。
缓存和成本归因解决的是两件事。每次调用都带上客户、工作流和运行标识,才能把费用汇总到一次完整任务,再指定一个人负责跟踪这个数字。
固定模型版本后,还要每天测什么?
同一个团队用过指向新版本的 latest 别名。供应商更新模型后,提示词没变,Agent 的行为变了,测试过了一周才发现。2026 年 10 月,r/AI_Agents 另一则讨论里,一条「等待人工审核,暂不发布」的临时规则留了整整一周,期间输出被拦住,监控也没报错。
作者建议固定具体模型版本,记录 API 返回的版本并对变化告警,同时每天用一小批固定输入检查任务结果。Anthropic 提到,基础设施调整偶尔也会让固定版本的行为出现细微差别。版本记录能解释一部分变化,固定用例则能发现版本号没变时的结果偏移。还可以把退役通知纳入升级日程,Anthropic 对公开模型至少提前 60 天通知。临时规则同样需要明确负责人和复查日期。
HTTP 200 之后,去哪里确认任务做完了?
一条成功日志只能证明这一层记录了成功。Agent 说航班已订好,最终要到权威业务系统里查有没有预订记录。下游仍在处理、查询失败或者证据不足时,结果可以是「未知」。这样既能避免提前报成功,也能避免把「还没查到」直接当失败重跑。
作者建议在上线前和每次更换模型前明确成功标准,细到两位领域专家独立审查也能得出相同结论。Anthropic 的指南建议先从真实失败案例里挑 20 到 50 个简单任务,匿名化后做成测试集,起步用不到 5,000 条。除此之外,每周抽读几条标成「成功」的运行记录,看看成功标准有没有漏掉业务上的错误。
我的判断
文章最扎实的部分,是指出了两种容易混淆的状态:请求超时与业务失败,以及接口成功与任务完成。前者决定能否安全重试,后者决定能否向用户报完成。调提示词可以改变 Agent 接下来怎么选,执行端的幂等、授权和结果核验才能管住真实动作。
几组数字的证据强度不同。243 倍来自设定了调用层数和尝试次数的算例。31 次调用、重复扣款和第 50 条消息约贵 9 倍,来自作者整理的社区自述,原文没有给出独立核验或对照实验。尤其是费用,历史裁剪、工具输出大小和缓存命中都会影响结果。任务路径能提前列清时,固定工作流更容易约束步数和追踪失败。确实需要模型临时选工具时,这些执行边界就更重要。
能拿来做什么
- 封装 Node 工具调用时,把整体截止时间和重试预算放在同一处,并给 Agent 单独设运行步数上限。写操作沿用同一个业务动作 ID,超时后先查执行结果。
- 做 Agent 任务进度页时,用后端核验过的业务状态更新界面。只有工具返回成功、还没查到实际结果时,显示「待确认」,并保留通过、失败和未知三种验收结果。
- 给模型调用记录客户、工作流和运行标识,按任务汇总费用。长会话成本偏高时,先看输入历史和工具输出都增长了多少,再检查稳定前缀的缓存命中。
- 把线上出现过的超时、重复执行和误报成功收进回归集。每天跑一小批固定用例,模型切换前再按同一套成功标准检查业务结果。