计费 API 如何处理智能体超时重试
接入约十个第三方数据服务后,作者发现智能体超时重试可能触发重复采购,因此用幂等键复用原调用。对用量延迟结算的服务,调用前先预留最高预计费用,再等待最终用量确认。
AI 深度解读
Purrkey 让 AI Agent 调用第三方数据 API,并按次付费。作者在几周内接了约 10 家供应商,原以为最费时间的是数据结构和鉴权,实际花得更多的是处理重试、结算和上游返回的错数据。
如果你正把搜索、抓取或房源接口接进 Agent,最该先想清楚的是一次调用的边界。Agent 等超时了,上游可能还在跑。上游返回 200,也可能查错了城市。这两件事分别决定用户会不会重复付钱,以及 Agent 会不会拿着错数据继续回答。
Agent 等超时了,上游可能还在计费
一次付费调用里,Agent 和供应商各有自己的执行进度。Agent 等不到响应,可能判断调用失败并立即重试。上游此时可能仍在执行,第二次请求再发出去,同一份数据就可能买两遍。
Purrkey 给每次付费调用带上幂等键(idempotency key)。同一个键再次出现,系统会返回原来的执行记录,无论任务仍在跑还是已经完成。响应丢失后,他们的 CLI 会自动查原来的任务。作者回头看,认为该在接第二家供应商前就把这部分做完。

按结果计费,要等用量稳定后再结算
有的供应商每次请求固定收费,有的按结果数量或事件(event)收费。作者遇到过一家,任务已经显示完成,用量数字还在接下来的几秒里变动。此时按第一笔读数结算,账单就可能和上游最终记录对不上。
Purrkey 在发起调用前按最高可能费用预留额度,等上游用量稳定后按实际金额扣款,再释放剩余部分。对浮动价格的调用,他们还设了硬性支出上限和供应商侧超时,因为有些上游任务发出去后无法中止。原文没交代用量稳定的判定条件,也没说明不支持取消的供应商具体如何执行这些限制。
失败和空结果则是另一笔账。有些抓取任务报错或返回空数据,上游照样收费。Purrkey 选择让用户免付,由平台承担成本,同时记录发生频率。作者说在当前规模下负担得起,原文没有给出失败率或实际支出。
接口返回 200,也可能把城市查错
同一周内,作者遇到了两次地点匹配错误。一个平台遇到不认识的城市,就悄悄改查别处,返回 200 和一批看起来合理的结果。一个房源接口则把大城市匹配到名字相近的小村庄。Agent 如果只拿到返回数据,很可能照常汇总,用户从回答里也未必看得出城市被换了。
现在作者会在每个新端点上线前,主动试不存在的城市、拼错的地名和空查询。遇到已知的匹配问题,就写进 Agent 能读到的工具描述,让它在输入含糊时先向用户确认。批量接口也要试坏数据,有的上游只遇到一条格式错误的记录,就会让整批失败。

预付余额耗尽,Agent 就会失去一个数据源
作者有一次偶然发现,某家供应商的余额已经低于 1 美元。现在 Purrkey 用定时任务逐家检查余额,余额偏低就发到团队聊天里。作者先观察实际消耗,再决定低余额阈值以及是否自动暂停或充值。余额真的耗尽时,Agent 会收到 upstream quota exhausted,用户免付这次费用,也能避开一个含义模糊的 500。
几家供应商目前用的是免费或近乎免费的方案,成本是每月几美元或少量点数。Purrkey 还给每家单独设了日预算,避免一个跑偏的 Agent 在一个下午耗尽整月额度,再根据实际用量决定给谁升级。
我的判断
这篇最有说服力的是两个具体故障。等待超时和上游执行结束是两件事,单纯把客户端超时调长,仍然可能丢响应并触发重试。HTTP 200 也只能说明请求走通了。若返回里带有城市 ID 或地区字段,服务端可以直接校验它是否符合请求。工具描述适合补充已知限制,让 Agent 在输入有歧义时发起澄清。
失败免付、余额只告警、小套餐起步,都属于作者在当前规模下的取舍。原文没有给出重试频率、失败成本或接入前后的对照数据,这部分是经验之谈。尤其是失败免付,划不划算要看上游单价、失败率,以及用户反复提交时会产生多少实际扣费。
能拿来做什么
- 给 Node 服务里的付费工具调用生成稳定的幂等键,并在调用上游前原子地登记一次执行。模拟响应丢失后用同一个键重试,检查是否拿回原任务,以及上游是否只收到一次请求。
- 接按结果计费的 API 时,把任务状态和结算状态分别记录。任务显示完成后,按该供应商的用量规则确认实际费用,再扣款并释放剩余额度。
- 给搜索、抓取或房源工具加几组反例,覆盖错别字、未知地名、空查询和批量坏项。检查返回地点是否符合请求,再把已验证的限制写进工具描述。
- 给预付数据源加余额告警和独立日预算。额度耗尽时返回 Agent 能识别的
upstream quota exhausted,前端据此展示数据源暂时不可用。