8.0
热点
AI SCORE
技术实践2026-10-15 01:40
Agent 成本控制要先预留并发调用预算
dev.to · AI#Agent#成本控制#并发
Editor brief · 编辑速览
仅在周期结束后统计支出,无法阻止并发调用突破预算;授权时应把已支出、未结算预留和本次估算成本一起核算。实现还需处理实际费用偏离估算及结算写入失败。
在周期结束时才报告支出的预算,属于记账。权限则在调用发生之前,对接下来的操作施加约束。
并发失效就足以说明整个问题。5 个 worker 检查当前支出 $4000 是否低于 $5000 的上限,每个都得到肯定答案,于是各自花费 $1200。每一次单独的检查都没有错。
应该为进行中的调用预留预算:
def authorize(cost_cents, period):
spent = counters.spent(period)
held = reservations.outstanding(period)
if spent + held + cost_cents > CAP:
return Decision("block")
reservations.create(cost_cents, period, ttl=300)
return Decision("allow")
设计时就要提前考虑两种结算偏差:实际费用与预估费用不同,以及结算写入彻底失败。这两种情况都很常见。
包含字段分类问题的完整文章:这里
如需采取进一步措施,你可以考虑屏蔽此人和/或举报滥用行为。

这里是程序员分享知识、了解最新动态并推动职业发展的社区。