8.0
热点
AI SCORE
技术实践2026-11-04 10:24
Agent 成本暴涨,问题可能出在归因
dev.to · AI#Agent#成本归因#可观测性
Editor brief · 编辑速览
一次用户任务在 Agent 中会触发规划、检索等多次调用,仅看请求量和账单难以解释成本变化。文章指出,应让成本归因粒度跟上任务执行步骤,解决费用准确却无法定位来源的问题。
文章思维导图
Knowledge map
AI brief
原文暂未完整获取,基于公开信息的快读
Agent 上线后,推理账单涨了,团队却说不清钱花在哪一步。dev.to 的一篇文章提到,作者接触的团队单季度推理支出增长至原来的 4 倍,使用量和收入也在增长。真正卡住他们的是财务追问:到底哪个功能、哪个执行步骤变贵了?账单准确,监控正常,却没人能回答。
目前能确认什么
作者指出,Agent 改变了任务的执行方式,成本归因却没有同步更新。用户眼里的一次操作,背后可能包含规划、检索、工具调用、上下文压缩、生成、校验和重试。只按 API key、团队或环境汇总费用,能知道谁在花钱,却难以定位为什么变贵。
上下文也会影响成本。后续调用如果反复携带前面步骤的结果,输入 token 就会继续累积。不过,节选中关于平方级增长的描述不能套用到所有 Agent,实际情况取决于上下文保留和裁剪方式。
作者提出,把任务、步骤、租户和功能标识随请求传出,让记录调用用量的那一层同时保存这些业务信息,再按步骤汇总成本。
关键是把业务步骤和实际计费用量关联起来。
我的判断
对程序员来说,成本埋点需要进入 Agent 的执行链路。一个任务下的多次调用应能关联起来,重试也需要能追溯到对应步骤。否则,即使发现某个功能费用上涨,仍然无法判断该压缩检索结果、减少重复生成,还是调整重试策略。
但示例里的自定义请求头只是传递信息的方式,不能据此认定任何模型服务都会保存这些字段、生成成本明细。调用层如何接收标识,缓存、模型路由和重试费用如何记录,节选没有交代完整。
我会优先看一个能力:能否从单次用户任务追到各步骤的费用。全局账单再清楚,也无法替代这个答案。