恢复 AI 编程会话前,先算上下文成本
文章以约 54.6 万 token 的会话为例,分析恢复旧会话与压缩后新开会话的成本。按文中列出的 Anthropic 规则,默认缓存为 5 分钟,还有 1 小时档位,两种档位的写入溢价和回本所需读取次数不同。
AI 深度解读
隔了一天再打开 Claude Code 的旧会话,真正该问的是:下一轮还需要带上多少历史?作者团队测得,会话上下文的中位数三个月内从 91,549 涨到 546,151 tokens,约为原来的 6 倍。缓存命中能降低重复输入的开销,但历史越长,缓存失效后要处理的内容就越多。
如果你经常用 AI 编程工具追一个跨天的 bug,这篇最实用的判断是:旧上下文很大、缓存大概率已失效时,先整理交接摘要,再开新会话。
Claude Code 的缓存到底能留多久?
Anton 原先猜测,40–60 分钟内恢复旧会话可以吃到缓存,超过这个窗口就要重新付一遍历史输入的费用。作者找到的资料给出两档 Anthropic 提示缓存有效期(TTL):默认 5 分钟,扩展档 1 小时。按这些二手资料,以普通输入单价为基准,5 分钟档写入是 1.25 倍,1 小时档写入是 2 倍,两档读取都是 0.1 倍。按这个模型,短档写入后再读 1 次、长档再读 2 次,累计支出就低于每次都按普通输入价计算。
作者手里还有一条更贴近实际环境的证据:他写作时所在的会话说明明确写着,请求使用 1 小时 TTL,进入超额用量(usage overage)后,后续请求会降到 5 分钟。也就是说,Anton 对自己环境的判断接近实际,但用量超额时,原本够用的一小时会缩到十二分之一。至于「Anthropic 在 2026 年 3 月把默认 TTL 从 1 小时改成 5 分钟」,作者只在一个博客里看到,没找到官方文件佐证。
Codex、Antigravity 和 Cursor 能套用同一套数字吗?
作者查到的 OpenAI 二手资料提到 30 分钟、可延长到 12 小时,以及缓存输入最高减免 90%。但价格说法没有对齐:一份写入报 1.25 倍、读取报 0.1 倍,另一份称 12 小时档写入要 2.5 倍。还有一份发布于调查前 142 天的资料宣称默认是 24 小时,与较新的 30 分钟说法冲突。作者没有拿供应商定价页核实这些数字,也没找到 Codex CLI 恢复旧会话的实测。
Antigravity 和 Cursor 同样缺少工具层面的测量。作者只找到一条已发布 391 天的 Gemini 侧数据,称缓存读取比新输入便宜约 75%。这条数据没有覆盖 Antigravity 恢复会话的过程。仅凭底层模型的缓存折扣,很难判断工具实际发送了多少旧历史,以及其中有多少命中了缓存。
为什么隔天接着做,更适合先压缩历史?
按作者引用的 Anthropic 读取倍率,命中的那段输入按普通输入价格的 10% 计算,失效后则回到 100%。TTL 决定哪一段历史还能享受折扣,上下文体量决定有多少内容可能回到原价。作者团队在 8 月用同一个工具测得中位数为 91,549 tokens,三个月后涨到 546,151。即使缓存规则一条都没变,继续带着大段旧历史工作的开销也可能明显上升。
还要分清计量方式。API 用户关心输入账单,作者团队用的是订阅,关心一次恢复会话会占掉多少周额度。原文没有测出输入 tokens、缓存命中情况与套餐扣减之间的精确关系,不能把 API 的 0.1 倍读取价直接当成订阅的扣额度比例。
提示缓存按输入前缀匹配,也就是从输入开头判断哪些内容可以复用。把旧历史压成摘要,会改变历史所在位置的前缀,因此那段旧历史的缓存无法继续复用。省下来的是后续每轮需要携带的输入量。对于已经隔天的大会话,作者因此倾向于压缩后重开。他们本地还有一道手工步骤:compact-prompt.md 有 5,088 字节,直接运行 /compact 不会读取里面的增强指令,需要把那段内容粘贴进当前会话。
我的判断
文章最扎实的是两条本地证据:会话说明记录了 TTL 如何因超额用量而变短,转录记录显示上下文中位数在增长。至于「压缩后重开到底省多少周额度」,作者没给同一任务的对照数据,也没测摘要遗漏细节后要花几轮补回来。这部分是经验判断。546,151 tokens 也只是他们团队的中位数,原文没有交代样本量,其他团队可以先测自己的会话。
直接续聊适合短暂停顿后继续处理同一个问题,尤其是前面有一串还用得上的排查结果。手写交接摘要则能由人明确哪些证据必须带走,代价是要花时间整理。自动压缩省去一部分整理工作,但原文的做法仍要手动粘贴指令。对于长会话,比较这几种做法时,我会把恢复后重新定位问题的时间也算进去。
能拿来做什么
- 前端或 Node 排障跨天时,把复现命令、关键报错、涉及的文件、已排除的原因和下一步验证写进交接摘要,再用它开启新会话。
- 同一个 bug 只暂停了几分钟,且后续仍要用到前面的排查链路,可以先续聊。做完一个阶段后,再把下一阶段需要的内容整理出来。
- 想知道团队该在哪个节点切会话,就记录几次续聊和摘要重开的输入体量、可见额度变化,以及恢复到有效推进需要几轮。用同一工具和套餐下的结果判断。