本地核算多种编程代理的用量成本
作者提供仅依赖 Python 标准库的只读审计脚本,汇总多种 AI 编程工具的本地用量记录。文章解释缓存令牌统计口径差异,并涉及 Codex 压缩归档和 OpenCode SQLite 日志读取。
AI 深度解读
同时用 Claude Code、Codex CLI 和 OpenCode 写代码,月底想算一笔 AI 成本,难点往往是先把账读对:缓存字段口径不同,历史会话还可能藏在压缩归档里。
作者做了一个本地审计脚本,并用自己 47,000+ 次调用说明:漏读归档、按原价计算缓存、忽略异常会话,都可能让成本判断失真。它值得借鉴的是核算方法,至于每月约 $125 的 GPU 分界线,还得看具体条件。
为什么同样的 token,不能直接相加
作者列出的工具包括 Claude Code、OpenAI Codex CLI、Google Antigravity、OpenCode、xAI Grok CLI,以及 Cline / Roo Code。它们的本地日志格式不同,连输入缓存的记账方式也不统一。
按原文归类,Anthropic、Antigravity、OpenCode 把未缓存输入、缓存读取、缓存写入分开记录,总输入量是:
total_input = input + cache_read + cache_write
OpenAI、Codex CLI、Grok CLI 则把 cached_tokens 算在 input_tokens 里面。核算时如果再把两者相加,就会重复计算;估算费用时,也应把缓存部分拆出来,分别套用价格。
先统一字段口径,再谈哪个模型更省钱。
文件位置也会影响结果。Codex 会把旧会话压缩到 ~/.codex/archived_sessions/*.jsonl.zst,只扫 ~/.codex/sessions 不够。OpenCode v2 又从 JSON 文件迁到了本地 SQLite 数据库 opencode.db,旧解析方式可能读不到新记录。
作者称,只扫描未压缩目录,会漏掉他过去 30 天超过 60% 的 Codex 调用。这是作者样本里的结果,不能直接当成所有人的归档比例。
本地审计能算出什么,哪些数字要带着前提看
作者提供的 audit_ai_spend.py 宣称零依赖、全程只读,无需上传提示词或文件路径。下面这条命令用于审计最近 30 天,并指定英文输出和全球区域:
curl -fsSL https://ai-cost-radar-nlu.pages.dev/audit_ai_spend.py | python3 - --days 30 --lang en --region global
要注意 | python3 -:它会直接执行下载的脚本。原文同时给出了先查看脚本的方式:
curl -fsSL https://ai-cost-radar-nlu.pages.dev/audit_ai_spend.py | less
这里的 | less 只负责查看内容。作者称脚本使用 Python 标准库 json、以 ?mode=ro URI 模式访问数据库的 sqlite3,以及内存中的 zstd 解码。仓库标注 MIT、Python 3.12+ stdlib 和 Vanilla ES2024;但原文没有展示压缩解码实现,零依赖和只读仍属于作者声明。
审计后的另一项发现是缓存的影响。作者报告了 90%+ 的提示词缓存命中率,并称按全部上下文乘未缓存输入单价,会把费用高估 4x–6x。这个方向合理:大量重复上下文若享受缓存读取折扣,就不能全部按原价计费。
但他进一步提出,缓存折扣后的支出超过约 $125/月,租用独享 GPU 才可能胜过按量 API;低于这个水平,按量 API 或约 $5/月的 LiteLLM 语义缓存代理更划算。原文举了 RunPod、RTX 4090 / A100 和 24GB GPU pod,却没交代具体实例、运行时长、模型与吞吐量,无法复算这条分界线。
还有一种容易被平均值掩盖的成本:作者称,一个失控的调试循环就能吃掉月预算的 25%。配套网页允许在浏览器本地拖入多个 .jsonl / .csv 文件,切换 Exclude #1 Spike Session,比较剔除最大异常会话后的日常消耗,并导出 LiteLLM config.yaml。
我的判断
我认同它的核算顺序:先找全记录,再统一缓存口径,最后区分日常消耗与异常峰值。比起只看总 token 的计算器,这套方法更适合分析编码代理反复读取上下文的使用方式。
不过,按日志和 API 单价估出的成本,不一定等于实际账单。 原文没有说明订阅额度、套餐权益和价格变动如何处理,也没有给出跨工具核对账单的结果。
47,000+ 次调用能支撑作者自己的观察,但缓存命中率、漏读比例和异常会话占比,仍受个人工作流影响。$125/月的结论缺少完整对照数据,应当视为经验之谈。LiteLLM 语义缓存也不能直接等同于供应商的提示词缓存,两者是否适用,需要另外判断。
能拿来做什么
- 同时使用多个编码 CLI 时,先检查日志目录、压缩归档和数据库格式,再汇总最近 30 天用量,避免拿不完整的数据比较工具成本。
- 给团队做费用统计时,明确
cached_tokens是否已包含在input_tokens内,并分别计算未缓存输入、缓存读取、缓存写入和输出费用。 - 排查 AI 编程成本上涨时,同时看完整支出和剔除最大异常会话后的日常消耗;异常费用仍要保留,并追查对应的调试循环。
- 考虑自托管模型前,用自己的缓存后费用、模型需求和 GPU 报价重算分界线,不直接套用约 $125/月的结论。