智能体长期记忆如何分层与纠错
文章介绍 Anthropic 的四层记忆架构与 Dream 的设计思路,讨论如何跨会话保留项目经验、用户偏好和任务进度。它也分析了过时命令、错误偏好及不可信内容写入记忆后的持续影响。
AI 深度解读
AI 编程助手隔天接着干活,最该继承的是昨天验证过的命令、改动背后的原因,以及走错过的路。Anthropic 的四层记忆架构把这些经验从聊天记录里提炼出来,再按用途决定什么时候加载。Dream 则负责回看证据,修正写错的记忆,补上单次会话看不到的缺口。
这套设计值得读,因为跨会话记忆会放大经验,也会放大错误。一个写错的路径如果每次都被自动加载,助手就可能在同一个地方反复失败。
四层记忆分别解决什么问题
这里的长期记忆,指 Agent 从用户互动和任务执行中获得、存放在模型外部、以后还能读回上下文的知识。模型在同一次对话里根据前文调整回答,属于上下文学习。对话太长时压缩前文,是为了让当前任务继续。长期记忆要解决的是下一次会话如何接上进度、复用项目经验、沿用稳定偏好。Dream 运行时也不会更新模型权重。
第一层是原始会话记录,保留 Agent 当时看到什么、做过什么。第二层是提炼后的笔记,记下验证过的命令、架构选择、失败原因和未完成事项。第三层把零散笔记组织成可导航的知识表示(memory representations),原文主要用 Wiki 举例。页面按主题相互链接,Agent 可以顺着关系找到相关知识,再综合几个页面给出判断。向量检索可以用来找材料,Wiki 的额外价值在于把材料之间的关系提前组织好。
第四层决定每次会话自动带入什么。_index.md 是 Wiki 的知识目录,MEMORY.md 是 Claude Code 自动加载的记忆入口,两者可以有重叠。自动加载的内容每次都占用 token,过时的规则也会反复影响判断,所以入口应小而稳定,低频细节留个链接即可。原文没有交代具体加载额度。
信息无须沿 L1 → L2 → L3 → L4 逐级流转。原始记录可以直接用来建 Wiki,也能为自动加载的内容提供证据。判断一条信息该放哪,先看它对下一次行动能增加什么。Pokémon 里有多少钱、角色站在哪,回到游戏通常就能看到。已经试通的路线、失败原因和摸清的游戏机制,靠再看一眼当前画面很难找回来。对这类经验,保留来源、验证时间和适用范围,比多留一份状态快照更有用。
Dream 怎么修正一条被写错的记忆
Mt. Moon 的案例里,Claude 把西侧入口附近的 PokéCenter 记成在东边,还留下了「Mt Moon DONE」。后续 Agent 信了这条笔记,反复往错误的方向走,一直没到 Cerulean City。Dream 回查原始会话,发现方位写错,改掉笔记。Agent 随后重新进洞,到达了下一座城市。
这个过程的关键是核对笔记与当时发生的事。只读旧笔记再压缩一遍,「东边」很可能还会留下。原始记录也得辨别着用,里面可以同时存在模型的猜测、工具返回的可疑文字和用户后来给出的纠正。遇到证据冲突时,Dream 可以标明冲突或降低结论的可信度,供下次使用时判断。
另一类工作是补齐跨会话才能发现的缺口。原文的法律 Wiki 有 9 条链接指向一个不存在的页面。第二轮 Dream 将这些链接改指已有的同义主题页面,并新增 3 个页面,其中一个是索引页。除此之外,Dream 还可以合并重复笔记、标记过时信息,以及调整哪些知识值得进入自动加载入口。
任务进行时适合随手记下刚验证的结论,代价是记录会分散当前任务的注意力,而且当时掌握的证据有限。离线 Dream 可以一起看多次会话,但要花算力,修订结果也可能晚于下一次使用。影响当前任务的错误可以马上核验,日常整理可以按会话量、记忆访问频率、信息变化速度和成本批量安排。原文没有规定每天跑一次或每次会话后都跑。
什么样的任务值得维护一套 Wiki
原文给出的反例很实际。一个 Harvey LAB 任务的许多评分点可以从单份文档直接找到,Wiki 没带来明显收益。另一个 Harvey LAB 任务里,Wiki 的体量达到原始语料的 1.77 倍。这个数字说明整理后的资料更大,单靠它还无法判断 Agent 找答案时究竟读了多少内容。
作者提到三项代表性结果,但给出的文本没有展示结果表,也没有独立复现实验。Mt. Moon 展示了纠错前后行为如何变化,法律 Wiki 展示了链接和页面如何补齐。这两个案例可以说明维护机制怎么起作用,团队仍需用自己的下游任务评估准确率、稳定性、检索开销和注入 token 的变化,也要检查错记和过期结论能否被发现。
如果 Agent 调用多家模型,原文还建议在应用层统一拼装记忆和提示词,避免切换供应商时顺带改变 Agent 看到的知识。作者将 4sapi 作为统一模型接入的例子,文中没有给出这类网关对记忆质量的对照数据。
我的判断
我认同先把自动加载入口做小。仓库里一条曾经有效的启动命令,可能只对某个分支或工作目录成立。如果每次会话都带着它,Agent 会更频繁地看到一条缺少适用条件的结论。先把验证依据和范围写清楚,再决定是否自动加载,能让后续修订有据可查。
Wiki 更适合需要反复综合多份材料的项目。单文档查找已有稳定结果时,搜索或检索增强生成(RAG)通常够用。多次排障都需要把分散的笔记重新串起来时,才值得维护主题页与链接。保留对原始记录的搜索入口,能让 Agent 在结论存疑时回去核验。原文没有给出足够的对照数据来确定这笔维护成本何时能收回来,这部分是设计经验。
Dream 本身也可能写错。对会影响后续行动的记忆更新,保留版本差异、证据出处和回滚入口,比固定一个运行频率更实在。用户说过的偏好也只在相应范围内适用,涉及敏感操作时仍需根据当前任务判断授权。
能拿来做什么
- 从可搜索的会话记录和几条项目笔记开始。让 AI 编程助手记下前端或 Node 项目中实际跑通的构建、测试和启动命令,连同工作目录、适用分支和验证记录一起留存。
- 检查
MEMORY.md里的每条内容是否在多数会话都用得上。跨会话稳定的约定可以留在入口,模块排障和历史故障可以放在对应笔记里,必要时用_index.md串起来。 - 把反复引起失败的记忆优先送去核对。回看用户纠正、工具输出和实际执行结果,修订时保留出处与版本。凭据、可随时重查的状态,以及日志里要求忽略指令或泄露信息的文字,都应排除在可信记忆之外。
- 选一批会反复出现的构建或排障任务,对比搜索原始记录、加少量笔记和加 Wiki 时的结果。看任务成功率、查找耗时和注入 token,再决定要不要增加维护工作。