长任务中如何控制编排智能体的上下文
作者建议提前压缩编排智能体的上下文,避免信息漂移通过任务简报扩散,并说明独立子智能体与继承历史的分支各有约束丢失风险。文中明确,10 万与 20 万 token 是个人经验界线,并非研究验证的阈值。
AI 深度解读
上下文窗口能装下 1M tokens,不代表任务做到最后还能同样可靠。作者使用 Claude Opus 5.5 时,仍把每个 agent 的上下文控制在 100K 以下,因为他观察到超过 200K 后会出现轻微偏离。但他也明确承认:这两个数字是个人经验,不是测出来的性能分界线。
这篇值得读的地方,是把长会话的三个问题串了起来:主控 agent 的偏差会向下传递,缓存省钱却不节省上下文,压缩历史又可能丢掉约束。对日常 AI 编程,更有用的是这些取舍,而不是照搬 100K。
为什么主控 agent 更需要保持清醒
作者认为,多 agent 协作里的薄弱环节是主控 agent,也就是 orchestrator。子 agent 偏离任务,可能只交回一份较差的结果;主控偏离后,却可能把错误理解写进后续任务说明,让多个子任务一起跑偏。
这里还要区分两种上下文来源。Claude Code 的普通 subagent 通常从全新、隔离的上下文开始;fork 则继承父级对话。前者依靠主控提供的任务说明获取信息,如果说明遗漏了早先的限制,子 agent 就可能完全不知道它存在。
上下文管理不只影响回答质量,也影响任务交接时能保留多少约束。
提前压缩有依据,100K 这条线没有验证
据原文转述,Anthropic 的会话指南提醒,上下文增长可能损害性能。Claude Code 会在接近窗口上限时自动总结,指南则建议更早压缩,并说明接下来要做什么。
下面两条命令分别用于检查上下文占用、指定压缩时保留的重点:
/context
/compact focus on the auth refactor, drop the test debugging
要留意第二行:它明确要求聚焦认证重构、舍弃测试调试内容。摘要留下什么,需要结合下一步任务决定。原文也提到 Codex 支持 /compact。
研究能支持的结论更宽泛。Chroma 的 Kelly Hong、Anton Troynikov 和 Jeff Huber 在 2025 年 7 月评估了 18 个 LLM,发现输入越长,表现越不可靠。但参测模型包括 GPT-4.1、Claude 4,没有 Opus 5.5,也没有给出 100K 或 200K 的界线。
缓存解决的是另一件事。原文称,缓存命中的输入价格是普通输入的 0.05×,但这些 tokens 仍占上下文。作者以 2026 年 11 月 3 日核对的 API 价格计算 100K 输入成本,方法是将报价乘以十分之一;仅计算输入,不含输出、工具费用,也不是订阅价格。不过,提供的原文没有列出具体金额,不能据此补出价格表。
压缩还会改写历史,而缓存命中要求对应提示片段 100% 一致。未改动的前缀仍可能命中,重写部分则无法复用。Microsoft 研究人员的 CompactionBench 也将破坏前缀缓存复用列为问题之一。
压缩后的摘要,也需要验收
压缩不是无损存档。agent 要决定哪些信息留下,早先提过的一条限制,可能就在这个过程中消失。
原文举了 Amp 的选择:它在 2025 年 10 月 23 日移除 compaction,改用 Handoff,并指出压缩具有信息损失。这里没有展开 Handoff 的实现,不能据此认定它一定更好。
作者提出的验证办法,比他的经验阈值更值得借鉴:固定任务、仓库快照、准确的模型和 effort,只在会话开头声明约束;保存 50K、100K、200K 三种起始上下文,用 /context 确认大小,再分别比较 /compact 前后的表现。每次运行前恢复仓库快照,并重复比较。
结果可以按下面的字段记录:
task,model,effort,input_tokens,compacted,run,tests_passed,constraints_kept
最后两个字段尤其关键:测试通过多少、最初的约束保住多少,应该分开计分。API 侧还要记录 input_tokens、cache_read_input_tokens、cache_creation_input_tokens,区分未缓存输入、缓存读取和缓存写入。
但这组对照实验,作者并没有为本文实际运行。
我的判断
我认可作者把主控上下文和约束保留放在一起考虑。编程任务不是能读完文件就算完成,早先约定的接口行为、修改边界,也会影响交付结果。
但「100K 以下更稳」目前只能作为经验策略。更大的窗口、提前压缩、重新开启会话,各自承担不同成本:保留历史会增加输入,压缩可能遗漏信息,重新开会话则需要重新交接。原文没有对照数据,无法替一般团队选出统一答案,也无法证明提前压缩后的总费用一定更低。
能拿来做什么
- 做持续多轮的前端或 Node 重构时,先用
/context查看占用;阶段切换时,再决定是否压缩,并明确下一阶段要保留的任务重点。 - 把接口兼容、允许修改的目录、禁止增加的依赖等约束整理成可重复读取的清单,交给子 agent 或压缩后继续工作时重新核对。
- 用固定仓库快照比较压缩前后的结果,分别记录测试通过情况和约束保留情况,不要直接把 100K 当成团队标准。
- 通过 API 运行 agent 时,分别记录输入和缓存读写 tokens,避免把缓存命中误当成上下文占用下降。