基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
  • 知识卡片碎片时间过考点
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
    • AI 热点每日 AI 资讯与动向
AI 工作台
旧版
AIHT
内容
精选全部 AI 动态热点榜AI 日报收藏
分类
模型行业编程产品技术观点开源
更多
Agent 接入
返回首页开发者导航
AIHT
精选 / 资讯详情
9.0
重磅
AI SCORE
技术实践2026-11-22 16:50

上下文压缩误删工具结果,引发反复读文件

dev.to · AI#上下文压缩#工具调用#Token 成本
Editor brief · 编辑速览

一次长任务中,69 次上下文压缩有 21 次反而增加了 token。压缩器保留最新用户消息时丢掉了代理正在使用的工具结果,导致同一个文件被读取十多次,整次运行耗用 340 万 token,超过 200 万预算。

文章思维导图
Knowledge map
拖拽缩放
AI deep read

AI 深度解读

一个负责压缩提示词的组件,反而把输入越压越大。作者在 2026 年 7 月的一次长任务中发现,更严重的问题是:压缩器删掉了模型正在使用的工具结果,导致模型反复读同一个文件,最终消耗 340 万 tokens,超过了 200 万的上限。

这次故障值得看,因为它暴露了 AI 编程工具里的一个隐蔽问题:上下文压缩不仅要控制长度,还得分清哪些是旧记录,哪些是下一步操作必须保留的现场。

为什么压缩器会让任务越跑越贵

作者给出了一条运行记录,能直接看出压缩是否有效:

mode=compiler_pack  stage=execution  budget=47616
before=26461  after=26798  saved=-337

要看的是最后一项:saved=-337。输入是 26,461 tokens,输出变成 26,798 tokens,压缩后增加了 337 tokens。在会话 7b3256c2 的 69 次打包中,有 21 次出现了负收益,但系统没有据此报警。

不过,增加几百 tokens 还不是最大的损失。

打包器会把对话分成历史记录和当前状态,再重新组装上下文窗口。作者原先只固定保留两条消息:system prompt 和最新的用户消息。普通聊天里,这个选择有一定道理;到了工具循环里,最新用户消息却往往是系统注入的任务清单。

模型刚读过的文件、上一步工具执行的结果,可能排在前面一两条。预算紧张时,这些内容被删了。

模型失去结果后,只好重新读取文件;上下文再次吃紧,文件内容又被删掉。一个 5.6 KB 的文件被读取了十多次,每轮循环约消耗 25,000 tokens。整次运行用了 340 万 tokens,而上限是 200 万。作者随后检查其他运行,发现 7 月 5 日至 8 日之间,所有长任务都出现了同类循环。

压缩器省掉了当前状态,却让模型花更多 tokens 重建它。

修复为什么要同时保留现场和允许放弃

作者在 7 月 8 日增加了两条规则。

第一条是最近四条消息必须保留。在他们的工具循环里,这四条覆盖了最近的程序、程序结果和注入上下文。压缩器只压缩历史,不动当前工作状态。用大白话讲,就是可以整理旧笔记,但不能收走手头正在参考的执行结果。

第二条是优化器可以放弃。如果一次处理没有缩短提示词,并且自报置信度低于 0.25,就丢弃这次结果,发送未经优化的上下文窗口。

这里有两个条件,不能只记住置信度阈值。原文没有说所有负收益结果都会被拒绝,也没有说所有低置信度结果都会被拒绝。

作者还发现,那四天里优化器的置信度从未超过 0.57,并据此质疑它是否应该修改上下文。但 0.57 是观察结果,不是新规则的拒绝阈值。

这次修复对应 Spec 007 中的 AC-007-008-06 和 AC-007-008-07,均写于 2026 年 7 月 8 日。作者最后提出的检查很直接:任何宣称节省资源的组件,都应该监控节省值的正负。

我的判断

作者抓住了一个关键区别:聊天记录的先后顺序,不等于工具任务里的信息重要性。模型下一步要修改什么文件、验证什么结果,往往依赖刚返回的工具消息。只固定 system prompt 和最新用户消息,确实可能丢掉执行所需的依据。

但「保留最近四条」仍是针对他们消息结构的经验规则。原文没有说明它能否覆盖多工具调用、较长的结果链,也没有给出修复后的 token 消耗或任务成功率对照,不能把它当成已经验证的通用方案。另一种做法是按消息用途标记必须保留的状态,不过这需要更准确地识别依赖关系,原文没有比较两种方案。

自报置信度也缺少校准依据。0.25 为什么合适,文章没说清。压缩前后长度至少可以直接测量,应该优先成为监控信号。

另外,340 万 tokens 为什么能突破 200 万上限,原文没有交代。压缩故障和预算限制失效,需要分别排查。

能拿来做什么

  • 如果你在 Node 中实现 AI 工具循环,可以先检查打包后是否保留了最近的工具调用及其结果,尤其是模型下一步要依据的文件内容。
  • 给上下文压缩记录增加 before、after、saved,对负收益报警;同时明确什么条件下丢弃压缩结果,回退到可发送的原始窗口。
  • 在日常 AI 编程中,如果模型连续重读同一个文件,可以把它当作上下文状态丢失的排查信号,结合工具记录确认原因。
  • 将任务预算作为独立检查项,明确超额时在哪里停止执行,不要只靠压缩器控制总消耗。
Original source

本文由 AI 通读原文后重新编写,观点部分为站内判断,细节以原文为准,来源 dev.to · AI,原文版权归原作者所有。

阅读原文
上一篇
用教师模型的标签评测,会掩盖学生模型的错误
下一篇
用交接笔记让编程代理接续上次工作

资讯速览

dev.to · AI · 2026-11-22 16:50

AI 评分 9.0 / 10

相关标签

#上下文压缩#工具调用#Token 成本

继续阅读

  • OpenCode 2.0 打通三端会话与后台审查
  • 用教师模型的标签评测,会掩盖学生模型的错误
  • 用交接笔记让编程代理接续上次工作
  • Roam 让同机编程助手交接绕开 Git
  • Claude Code 项目指令文件的读取优先级