基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
  • 知识卡片碎片时间过考点
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
    • AI 热点每日 AI 资讯与动向
AI 工作台
旧版
AIHT
内容
精选全部 AI 动态热点榜AI 日报收藏
分类
模型行业编程产品技术观点开源
更多
Agent 接入
返回首页开发者导航
AIHT
精选 / 资讯详情
8.0
热点
AI SCORE
编程提效2026-11-16 22:21

本地核算多种编程代理的用量成本

dev.to · AI#AI编程#成本分析#本地工具
Editor brief · 编辑速览

作者提供仅依赖 Python 标准库的只读审计脚本,汇总多种 AI 编程工具的本地用量记录。文章解释缓存令牌统计口径差异,并涉及 Codex 压缩归档和 OpenCode SQLite 日志读取。

文章思维导图
Knowledge map
拖拽缩放
AI deep read

AI 深度解读

同时用 Claude Code、Codex CLI 和 OpenCode 写代码,月底想算一笔 AI 成本,难点往往是先把账读对:缓存字段口径不同,历史会话还可能藏在压缩归档里。

作者做了一个本地审计脚本,并用自己 47,000+ 次调用说明:漏读归档、按原价计算缓存、忽略异常会话,都可能让成本判断失真。它值得借鉴的是核算方法,至于每月约 $125 的 GPU 分界线,还得看具体条件。

为什么同样的 token,不能直接相加

作者列出的工具包括 Claude Code、OpenAI Codex CLI、Google Antigravity、OpenCode、xAI Grok CLI,以及 Cline / Roo Code。它们的本地日志格式不同,连输入缓存的记账方式也不统一。

按原文归类,Anthropic、Antigravity、OpenCode 把未缓存输入、缓存读取、缓存写入分开记录,总输入量是:

total_input = input + cache_read + cache_write

OpenAI、Codex CLI、Grok CLI 则把 cached_tokens 算在 input_tokens 里面。核算时如果再把两者相加,就会重复计算;估算费用时,也应把缓存部分拆出来,分别套用价格。

先统一字段口径,再谈哪个模型更省钱。

文件位置也会影响结果。Codex 会把旧会话压缩到 ~/.codex/archived_sessions/*.jsonl.zst,只扫 ~/.codex/sessions 不够。OpenCode v2 又从 JSON 文件迁到了本地 SQLite 数据库 opencode.db,旧解析方式可能读不到新记录。

作者称,只扫描未压缩目录,会漏掉他过去 30 天超过 60% 的 Codex 调用。这是作者样本里的结果,不能直接当成所有人的归档比例。

本地审计能算出什么,哪些数字要带着前提看

作者提供的 audit_ai_spend.py 宣称零依赖、全程只读,无需上传提示词或文件路径。下面这条命令用于审计最近 30 天,并指定英文输出和全球区域:

curl -fsSL https://ai-cost-radar-nlu.pages.dev/audit_ai_spend.py | python3 - --days 30 --lang en --region global

要注意 | python3 -:它会直接执行下载的脚本。原文同时给出了先查看脚本的方式:

curl -fsSL https://ai-cost-radar-nlu.pages.dev/audit_ai_spend.py | less

这里的 | less 只负责查看内容。作者称脚本使用 Python 标准库 json、以 ?mode=ro URI 模式访问数据库的 sqlite3,以及内存中的 zstd 解码。仓库标注 MIT、Python 3.12+ stdlib 和 Vanilla ES2024;但原文没有展示压缩解码实现,零依赖和只读仍属于作者声明。

审计后的另一项发现是缓存的影响。作者报告了 90%+ 的提示词缓存命中率,并称按全部上下文乘未缓存输入单价,会把费用高估 4x–6x。这个方向合理:大量重复上下文若享受缓存读取折扣,就不能全部按原价计费。

但他进一步提出,缓存折扣后的支出超过约 $125/月,租用独享 GPU 才可能胜过按量 API;低于这个水平,按量 API 或约 $5/月的 LiteLLM 语义缓存代理更划算。原文举了 RunPod、RTX 4090 / A100 和 24GB GPU pod,却没交代具体实例、运行时长、模型与吞吐量,无法复算这条分界线。

还有一种容易被平均值掩盖的成本:作者称,一个失控的调试循环就能吃掉月预算的 25%。配套网页允许在浏览器本地拖入多个 .jsonl / .csv 文件,切换 Exclude #1 Spike Session,比较剔除最大异常会话后的日常消耗,并导出 LiteLLM config.yaml。

我的判断

我认同它的核算顺序:先找全记录,再统一缓存口径,最后区分日常消耗与异常峰值。比起只看总 token 的计算器,这套方法更适合分析编码代理反复读取上下文的使用方式。

不过,按日志和 API 单价估出的成本,不一定等于实际账单。 原文没有说明订阅额度、套餐权益和价格变动如何处理,也没有给出跨工具核对账单的结果。

47,000+ 次调用能支撑作者自己的观察,但缓存命中率、漏读比例和异常会话占比,仍受个人工作流影响。$125/月的结论缺少完整对照数据,应当视为经验之谈。LiteLLM 语义缓存也不能直接等同于供应商的提示词缓存,两者是否适用,需要另外判断。

能拿来做什么

  • 同时使用多个编码 CLI 时,先检查日志目录、压缩归档和数据库格式,再汇总最近 30 天用量,避免拿不完整的数据比较工具成本。
  • 给团队做费用统计时,明确 cached_tokens 是否已包含在 input_tokens 内,并分别计算未缓存输入、缓存读取、缓存写入和输出费用。
  • 排查 AI 编程成本上涨时,同时看完整支出和剔除最大异常会话后的日常消耗;异常费用仍要保留,并追查对应的调试循环。
  • 考虑自托管模型前,用自己的缓存后费用、模型需求和 GPU 报价重算分界线,不直接套用约 $125/月的结论。
Original source

本文由 AI 通读原文后重新编写,观点部分为站内判断,细节以原文为准,来源 dev.to · AI,原文版权归原作者所有。

阅读原文
上一篇
MCP 调用返回成功,不代表操作成功
下一篇
本地跑模型,内存与上下文如何取舍

资讯速览

dev.to · AI · 2026-11-16 22:21

AI 评分 8.0 / 10

相关标签

#AI编程#成本分析#本地工具

继续阅读

  • 让 Claude 设计电路板,并逐步校验
  • MCP 调用返回成功,不代表操作成功
  • 本地跑模型,内存与上下文如何取舍
  • 本地 AI 知识库难在模型之外
  • 小团队自托管大模型,先算任务账