8.0
热点
AI SCORE
编程提效2026-11-21 22:07
GPT-6.2 Astra 的四十步智能体成本账
dev.to · AI#OpenAI#智能体#成本估算
Editor brief · 编辑速览
按文中报价和用量假设,每步复用 3 万个缓存令牌的 40 步任务从 4 美元降至 2.72 美元,约 56% 的节省来自缓存降价。文章称,单次输入超过 27.2 万个令牌时,整次请求会按更高费率计费。
文章思维导图
Knowledge map
AI brief
原文暂未完整获取,基于公开信息的快读
一篇 dev.to 文章算了一笔 GPT-6.2 Astra 的智能体成本账:按作者给出的报价和用量假设,40 步编码任务的费用从 4 美元降到 2.72 美元,降幅为 32%。其中约 56% 的节省来自缓存输入降价。不过,报价引自第三方追踪信息,现有节选没有提供 OpenAI 官方确认。
目前能确认什么
作者假设,每一步都复用 3 万个缓存令牌,新增 2000 个输入令牌,并生成 1000 个输出令牌。按节选列出的每百万令牌报价计算:
- 缓存输入:0.40 美元,每步花费 0.012 美元。
- 新输入:8 美元,每步花费 0.016 美元。
- 输出:40 美元,每步花费 0.04 美元。
合计每步 0.068 美元,40 步就是 2.72 美元。缓存输入费率从 1 美元降到 0.40 美元,降幅为 60%,但它只是总账中的一项。
缓存单价降六成,不等于整个任务便宜六成。
提示词缓存复用的是请求中符合条件的重复内容。作者提出将 system prompt 和工具定义放在前部并保持不变,但实际命中情况仍要看用量记录。
我的判断
对反复携带长前缀的编码智能体,这种拆账方式比只比较输入单价更有用。但 2.72 美元依赖每步都有 3 万个令牌按缓存价计费;命中不足,或者输出变长,总成本都会变化。
更需要核对的是长上下文计费。文章称,单次输入超过 27.2 万个令牌后,整次请求会按更高费率计费,而非只对超出部分加价。若该规则成立,预算就必须记录每步输入长度。
节选中的 25 万令牌裁剪线只是作者设定的缓冲值。官方价格、缓存适用条件,以及高费率对缓存输入如何处理,目前都还没有确认,不能直接把这段示例当成生产预算依据。