工具调用型 Agent 上线后的三类故障
讨论帖列出三类故障:下游写入已完成但请求超时,重试造成重复写入;空结果触发循环调用;上下文压缩遗漏禁止操作的约束。作者提出幂等键、状态机、外部状态记录和熔断等应对思路。
AI 深度解读
工具调用型 AI Agent 从本地演示搬到生产环境后,可能遇到三类故障:下游已经写入,Agent 却因超时又写了一次;工具返回空结果,Agent 用同一组参数反复调用;对话压缩了几轮,早先的禁令被摘要丢掉。原帖没有给出事故复盘,而是向跑过生产流量的工程师征集经验。它提出了一个具体的工程问题:哪些约束应该由代码执行,才能经得起超时、重试和长对话?
写入请求超时,为什么不能直接重试?
一次 HTTP 超时,只能说明调用方没在期限内收到响应。下游 API 可能早就创建了工单、发出了邮件,或者写入了数据库。此时 Agent 如果把超时直接当作写入失败,再发一次请求,就可能把同一件事做两遍。
原帖提到的候选方案是幂等键(idempotency key)。以创建工单为例,同一次业务操作的首次请求和后续重试都带同一个键,接收方用这个键识别已经处理过的请求。关键在于接收方确实能按键去重。如果下游 API 没有这个能力,调用端自行加一个键,也无法据此判断上一次写入是否成功。
工具没返回完整结果,为什么会耗尽 token?
原帖描述的另一种故障是,工具返回空结果或部分结果后,Agent 继续用完全相同的参数调用同一个工具。每轮看起来都在尝试推进,实际上输入没有变化,循环可以一直持续到 token 预算耗尽。
状态机和硬熔断器是原帖列出的两种候选护栏。状态机可以根据结果类型决定下一步,例如空结果时结束本轮,部分结果带有分页信息时才继续查。硬熔断器负责兜底,到达调用上限就停。两者分别处理下一步怎么走,以及最多允许走多少步。
对话压缩后,谁还记得「不要碰表 X」?
长对话可能把旧内容压成摘要,之后再把旧摘要压成新摘要。原帖指出,这个过程可能漏掉「不要碰表 X」之类的禁止性约束。等到 50 轮之后,Agent 又可能提出早已被拒绝的方案。这里的 50 轮是原帖举例,文中没有测出一个固定的失效轮数。
外部状态台账是原帖提出的候选方案。落到工具调用上,可以把已确认的禁令单独存储,由执行层在调用前检查。这样即使摘要漏掉了禁令,工具执行仍然受那条约束控制。
我的判断
原帖最实用的地方,是提醒开发者分别处理写入结果未知、流程没有进展、历史约束丢失这三种情况。统一加重试对临时读取失败可能有用,遇到写入结果未知却可能扩大影响。提示词可以提醒模型尽早停止或遵守禁令,执行层的调用上限和权限检查则能直接决定这次工具调用能否发生。
原文是一则经验征集帖,没有给出事故样本量、发生频率或护栏启用前后的对照数据。「三类故障反复出现」是作者的经验判断,文中也没有说明哪一种通常最早发生,或哪一种护栏已经在他们团队奏效。
能拿来做什么
- 给 Node 工单工具加一条集成用例,让下游先写入,再让调用端收到超时。若下游支持幂等键,就复用同一业务操作的键重试,检查最终只生成一张工单。
- 在 Agent 的工具执行层记录工具名、参数和结果状态。对空结果后的同参重试设置明确上限,并把停止原因返回给调用方。
- 把「不要碰表 X」这类已确认的操作禁令存到会话摘要之外。在 AI 编程流程里压缩一次上下文,再验证工具执行层仍会拦截被禁操作。