长任务智能体的记忆应分层管理
文章将长期运行智能体的失忆问题归因于记忆设计,建议分离固定规则、当前任务窗口、进度摘要和按需检索的持久存储。核心是缩小常驻上下文,避免历史噪声堆积及输入长度带来的成本与延迟。
AI 深度解读
长时间运行的 AI Agent 为什么越做越偏?这篇文章把矛头指向记忆设计:把聊天记录全部塞进上下文,既不能保证模型抓住重点,也留不住跨会话的信息。作者提出的办法是,把固定规则、当前任务、阶段摘要和持久事实分开管理。
对做 AI 编程助手或多步骤任务的程序员,这套思路值得参考。不过,原文是一份设计指南,没有实验数据。它能帮助我们拆解问题,还不足以证明某种方案一定更省钱、更可靠。
为什么 128k 上下文仍然不等于记忆
「有了 128k 上下文,就不用操心记忆」是作者首先反对的想法。上下文窗口只是模型这一次能读取多少内容,记忆系统还要回答另外几个问题:哪些信息值得留下,什么时候取回来,过时后怎么办。
原文给出三个理由。
第一,输入变长通常会增加成本与延迟。作者用「每轮重新读取整个窗口」解释这个问题,但没有说明具体服务、缓存机制或计费方式。因此,可以接受它对重复输入的提醒,不能直接据此计算实际开销。
第二,装得下不代表用得好。关键约束埋在大量工具输出和历史讨论中,模型可能在达到 token 上限之前就漏掉它。对于编程任务,真正需要延续的可能只是一条决定、一个目标文件和一个尚未解决的错误,完整日志却会占据大部分空间。
第三,上下文自身不提供跨会话保存。下一次运行还能否拿到那些信息,取决于应用有没有存储和恢复机制。
上下文容量解决的是能放多少,记忆设计解决的是该留什么、何时取用。
原文把这描述为 2026 年可靠 Agent 团队的工程做法,但没有给出团队案例或调查来源。这里应当把它当作作者的行业判断。
四层记忆怎么分,才能让当前任务更清楚
作者建议把记忆拆成四层,各自承担不同职责。
固定的系统提示词(system prompt)保存身份和行为规则。它负责约束 Agent 的工作方式,不该被不断增长的对话记录挤走。
小型工作窗口保存当前任务需要的信息。它应当围绕眼前这一步组织内容,而不是承担全部历史的归档职责。
阶段摘要保存「到目前为止发生了什么」。当会话变长,就把原始记录压成紧凑描述,例如:已经决定 X,目标是文件 Y,当前被错误 Z 阻塞。摘要保留任务意图,让模型接着做,不必重新理解整段过程。
持久存储保存跨阶段、跨会话仍然有用的事实。默认不把整份存储注入提示词,只有当前步骤需要某条事实时才查询,再把匹配结果放进工作窗口。
这里最关键的是摘要与存储的分工。摘要负责让正在进行的任务接得上,存储负责让以后需要的信息找得到。把资料写进存储,却没有明确的查询时机,Agent 仍然可能表现得像忘了。
作者认为,短窗口配合按需查询,在质量和成本上优于全量灌入。但原文没有对照测试,也没有给出窗口大小、摘要触发阈值或检索实现,不能照着它配出一组通用参数。
为什么存得越多,反而越容易找不到重点
原文对写入持久存储同样克制:不是每一次观察都值得保存。作者建议优先保留决策、约束和反复出现的错误,并为容易过时的事实设置到期或复查机制。
这和日志的用途不同。日志可以记录完整过程,记忆需要筛选未来还会影响判断的信息。若两者混在一起,存储会持续膨胀,查询时也更难挑出有效事实。
作者列出的三个反模式,恰好覆盖读、压缩、写三个环节:
- 每轮重新粘贴同一大段上下文,让重复输入持续累积。
- 一直保留原始对话,却从不生成阶段摘要。
- 把所有观察写入持久存储,没有筛选和清理规则。
对应的修正也很直接:缩小工作窗口,及时整理摘要,按当前步骤查询,并控制写入。
作者还强调,这些原则不要求定制框架,也不必一开始就上向量数据库。先用简单的持久存储和清晰的查询纪律处理需求,再根据实际负载增加工具。不过,原文没有展开存储选型,也没有说明何时该升级检索方案。
我的判断
我认同它先划分信息职责的顺序。相比一遇到遗忘就扩大窗口,或立即引入向量数据库,这种做法更容易检查问题出在哪里:规则没保住、摘要漏了决定,还是该查询时没有查询。
但「长任务失控最常见的原因是记忆设计薄弱」缺少证据,「几乎没有前期成本」也说得偏轻。摘要会遗漏信息,检索会返回无关内容,旧事实可能与新决定冲突。这些都需要工程处理,原文没有讲清。
全量上下文也并非毫无用途。短任务需要核对完整细节时,直接提供材料可能更省事;任务拉长以后,分层管理才更有必要。至于短窗口能节省多少成本、改善多少任务成功率,作者没给对照数据,应当视为经验之谈。
能拿来做什么
- 给现有 AI 编程流程整理一份阶段摘要,明确写出已经确认的决定、目标文件和当前阻塞;切换会话前检查这三项能否支撑继续工作。
- 把固定规则与临时工具输出分开,避免每次执行任务都附带大量旧日志;当前步骤需要哪些证据,就提供哪些证据。
- 为持久记忆写出明确的准入规则,优先保存决策、约束和重复错误,并给可能失效的信息安排复查。
- 先验证简单存储能否满足查询需求,再决定是否引入向量数据库;判断依据应是实际检索效果和任务需要。