基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
  • 知识卡片碎片时间过考点
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
    • AI 热点每日 AI 资讯与动向
AI 工作台
旧版
AIHT
内容
精选全部 AI 动态热点榜AI 日报收藏
分类
模型行业编程产品技术观点开源
更多
Agent 接入
返回首页开发者导航
AIHT
精选 / 资讯详情
8.0
热点
AI SCORE
技术实践2026-11-16 21:16

长任务智能体的记忆应分层管理

dev.to · AI#Agent#记忆管理#上下文
Editor brief · 编辑速览

文章将长期运行智能体的失忆问题归因于记忆设计,建议分离固定规则、当前任务窗口、进度摘要和按需检索的持久存储。核心是缩小常驻上下文,避免历史噪声堆积及输入长度带来的成本与延迟。

文章思维导图
Knowledge map
拖拽缩放
AI deep read

AI 深度解读

长时间运行的 AI Agent 为什么越做越偏?这篇文章把矛头指向记忆设计:把聊天记录全部塞进上下文,既不能保证模型抓住重点,也留不住跨会话的信息。作者提出的办法是,把固定规则、当前任务、阶段摘要和持久事实分开管理。

对做 AI 编程助手或多步骤任务的程序员,这套思路值得参考。不过,原文是一份设计指南,没有实验数据。它能帮助我们拆解问题,还不足以证明某种方案一定更省钱、更可靠。

为什么 128k 上下文仍然不等于记忆

「有了 128k 上下文,就不用操心记忆」是作者首先反对的想法。上下文窗口只是模型这一次能读取多少内容,记忆系统还要回答另外几个问题:哪些信息值得留下,什么时候取回来,过时后怎么办。

原文给出三个理由。

第一,输入变长通常会增加成本与延迟。作者用「每轮重新读取整个窗口」解释这个问题,但没有说明具体服务、缓存机制或计费方式。因此,可以接受它对重复输入的提醒,不能直接据此计算实际开销。

第二,装得下不代表用得好。关键约束埋在大量工具输出和历史讨论中,模型可能在达到 token 上限之前就漏掉它。对于编程任务,真正需要延续的可能只是一条决定、一个目标文件和一个尚未解决的错误,完整日志却会占据大部分空间。

第三,上下文自身不提供跨会话保存。下一次运行还能否拿到那些信息,取决于应用有没有存储和恢复机制。

上下文容量解决的是能放多少,记忆设计解决的是该留什么、何时取用。

原文把这描述为 2026 年可靠 Agent 团队的工程做法,但没有给出团队案例或调查来源。这里应当把它当作作者的行业判断。

四层记忆怎么分,才能让当前任务更清楚

作者建议把记忆拆成四层,各自承担不同职责。

固定的系统提示词(system prompt)保存身份和行为规则。它负责约束 Agent 的工作方式,不该被不断增长的对话记录挤走。

小型工作窗口保存当前任务需要的信息。它应当围绕眼前这一步组织内容,而不是承担全部历史的归档职责。

阶段摘要保存「到目前为止发生了什么」。当会话变长,就把原始记录压成紧凑描述,例如:已经决定 X,目标是文件 Y,当前被错误 Z 阻塞。摘要保留任务意图,让模型接着做,不必重新理解整段过程。

持久存储保存跨阶段、跨会话仍然有用的事实。默认不把整份存储注入提示词,只有当前步骤需要某条事实时才查询,再把匹配结果放进工作窗口。

这里最关键的是摘要与存储的分工。摘要负责让正在进行的任务接得上,存储负责让以后需要的信息找得到。把资料写进存储,却没有明确的查询时机,Agent 仍然可能表现得像忘了。

作者认为,短窗口配合按需查询,在质量和成本上优于全量灌入。但原文没有对照测试,也没有给出窗口大小、摘要触发阈值或检索实现,不能照着它配出一组通用参数。

为什么存得越多,反而越容易找不到重点

原文对写入持久存储同样克制:不是每一次观察都值得保存。作者建议优先保留决策、约束和反复出现的错误,并为容易过时的事实设置到期或复查机制。

这和日志的用途不同。日志可以记录完整过程,记忆需要筛选未来还会影响判断的信息。若两者混在一起,存储会持续膨胀,查询时也更难挑出有效事实。

作者列出的三个反模式,恰好覆盖读、压缩、写三个环节:

  • 每轮重新粘贴同一大段上下文,让重复输入持续累积。
  • 一直保留原始对话,却从不生成阶段摘要。
  • 把所有观察写入持久存储,没有筛选和清理规则。

对应的修正也很直接:缩小工作窗口,及时整理摘要,按当前步骤查询,并控制写入。

作者还强调,这些原则不要求定制框架,也不必一开始就上向量数据库。先用简单的持久存储和清晰的查询纪律处理需求,再根据实际负载增加工具。不过,原文没有展开存储选型,也没有说明何时该升级检索方案。

我的判断

我认同它先划分信息职责的顺序。相比一遇到遗忘就扩大窗口,或立即引入向量数据库,这种做法更容易检查问题出在哪里:规则没保住、摘要漏了决定,还是该查询时没有查询。

但「长任务失控最常见的原因是记忆设计薄弱」缺少证据,「几乎没有前期成本」也说得偏轻。摘要会遗漏信息,检索会返回无关内容,旧事实可能与新决定冲突。这些都需要工程处理,原文没有讲清。

全量上下文也并非毫无用途。短任务需要核对完整细节时,直接提供材料可能更省事;任务拉长以后,分层管理才更有必要。至于短窗口能节省多少成本、改善多少任务成功率,作者没给对照数据,应当视为经验之谈。

能拿来做什么

  • 给现有 AI 编程流程整理一份阶段摘要,明确写出已经确认的决定、目标文件和当前阻塞;切换会话前检查这三项能否支撑继续工作。
  • 把固定规则与临时工具输出分开,避免每次执行任务都附带大量旧日志;当前步骤需要哪些证据,就提供哪些证据。
  • 为持久记忆写出明确的准入规则,优先保存决策、约束和重复错误,并给可能失效的信息安排复查。
  • 先验证简单存储能否满足查询需求,再决定是否引入向量数据库;判断依据应是实际检索效果和任务需要。
Original source

本文由 AI 通读原文后重新编写,观点部分为站内判断,细节以原文为准,来源 dev.to · AI,原文版权归原作者所有。

阅读原文
上一篇
从检索到评估,理解 RAG 应用链路
下一篇
从上下文到人工补充输入,梳理 MCP

资讯速览

dev.to · AI · 2026-11-16 21:16

AI 评分 8.0 / 10

相关标签

#Agent#记忆管理#上下文

继续阅读

  • 按问题类型选择检索、图谱或微调
  • 从检索到评估,理解 RAG 应用链路
  • 从上下文到人工补充输入,梳理 MCP
  • AI 写码测试全绿,合并前仍查出类型错误
  • 自动搜索结果正常返回也可能失真