前端进阶之旅前端进阶之旅
基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
知识卡片
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
  • AI 助手随时提问,即时解析
  • AI 模拟面试模拟真实面试 + 报告
  • AI 知识地图串起全站知识点
  • AI 定制路线按你的简历现排
AI 热点
旧版
基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
知识卡片
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
  • AI 助手随时提问,即时解析
  • AI 模拟面试模拟真实面试 + 报告
  • AI 知识地图串起全站知识点
  • AI 定制路线按你的简历现排
AI 热点
旧版
返回 AI 情报前线
All News · 全部资讯9865
  • 生产级 AI Agent 开发:比 Prompt 更重要的 7 个架构层
  • GPT-6 与 Claude Opus 5.5 一周内相继发布
  • AI Agent 生产级基础设施的五个核心层次
  • MCP stdio Server:一次 print() 导致 19% 工具调用失败
  • AI Agent 为何生产环境总是失败:真正原因不是模型
  • Kubernetes GPU 集群部署 LLM 实战:Llama 3.3 70B 和 DeepSeek R1
  • 生产环境常青的开源 LLM:没人谈但一直出现
  • 多语言LLM推理优化:tokenize是首个瓶颈
  • 三个「成功」却实际失败的Bug:HTTP 200不等于正确
  • TypeSafe AI Jev:20个Agent生产级用例实测
  • AI智能体记忆衰减的诊断与处理指南
  • 用LLM Agent自动化TLS证书过期巡检
  • Langflow 关键代码执行漏洞:SSRF 绕过直取 root 权限
  • Simon Willison 深度回顾:2026 上半年 LLM 领域关键进展
  • 开源 AI 同事:2FA 密码不进入模型上下文的架构实现
  • Claude 950 个 Agent 发现新酶系统、Devin ARR 超 10 亿美元、阿里发布 V900 芯片
  • Laya: 3亿参数决策引擎替代LLM判断
  • LLM提示注入防护:过滤不可见Unicode字符
  • OpenAI 代理 3 个月内暴力请求 UN 网站 16000 次
  • OpenAI暂停最新模型训练,因AI代理出现异常行为报告
  • AI Agent 实际上能从过往运行中学习吗
  • Plugin4Shell:AI 编程工具插件市场的供应链漏洞
  • GPT-6发布当天,OpenAI首席科学家呼吁减速
  • 研究:AI 代理承担模型开发 55% 工作,人类保留 85% 决策权
  • P99性能大师课:从内核分析到AI的工程实践
  • Claude Code 和 Cursor 能否真正强制执行团队代码规范
  • 匿名模型玉兔登顶 OpenRouter 双榜,Coding 能力获验证
  • open-connector:让 AI Agent 安全连接 1500+ 应用的开源方案
  • 不换模型降低 AI API 成本 40% 的实用技巧
  • Nvidia开源100M参数说话人分离模型,最多实时识别8人
  • GPT-6 Astra直接控制机器人自主整理陌生厨房
  • AI Agent自主入侵网站事件大规模曝光
  • 通过 MCP 将 Interactive Brokers 直连 LLM:实时投资组合分析与五个常见踩坑
  • AI Agent 安全防护:模型数据泄露与 API 密钥窃取的实战防御体系
  • MCP协议移动自动化服务端:iOS/Android测试Scraping一把梭
  • Anthropic发布GitHub Action:Claude Code直接介入PR和Issue
  • 为什么AI编程Agent的Guardrails至关重要
  • OpenAI 常驻 AI 助手「O」预计 9 月 29 日发布
  • 企业AI编程工具横向评测:IP赔偿、数据驻地、500席位成本对比
  • 5美元/月在DigitalOcean自建Llama 2生产级推理
  • AI应用Token优化四维度:度量、压缩、缓存、限流
  • 我的Prompt注入防御:容易被忽略的部分才防住攻击
  • FORGE多Agent研究系统的设计复盘:运行即日志
  • OpenAI 智能体暴力破解 UN 网站 API 字段
  • llama.cpp 实现提示词查找草拟加速 42 倍
  • Fireworks发布Ember-1推理模型:代币消耗降低40%
  • OpenAI和Anthropic正调查数万起AI安全事件
  • OpenAI因AI失控再次暂停最强模型训练
  • 用Erlang/OTP思维构建Agent系统
  • Mac本地跑AI模型:内存与模型规模对照表
  • OpenAI Codex Agent失控:单次任务消耗7.8万美元
  • 已加载 51 / 9865
8.0
热点
AI SCORE
技术实践2026-09-27 23:49

AI Agent 实际上能从过往运行中学习吗

dev.to · AI#AI Agent#LLM原理#记忆系统
Editor brief · 编辑速览

揭示 AI Agent 不会跨运行积累经验这一本质问题:LLM 权重固定,cron/n8n/Zapier 触发每次都是空白启动,必须自己构建记忆系统才能「学到位」。

文章思维导图
Knowledge map
拖拽缩放
Full translation

完整中文译文

把定时 AI Agent 跑得足够久,你心里就会开始萌生一个期望:它肯定会在这个过程中变得更好。Run 1 把发票格式搞得一塌糊涂;Run 20 已经能干净利落地处理;到了 Run 100,它应该成为专家了。

不会的。Run 100 和 Run 1 拥有完全相同的大脑,如果没有人替它记住什么,它会犯下同样的新手错误。

你 Agent 的大脑是冻结的

语言模型不会从经验中学习。它的权重在训练时就固定了。Run 47 发生的任何事情都不会改变 Run 48 中模型知道的内容。每次定时执行,无论是来自 cron、n8n Schedule trigger、Make scenario 还是 Zapier schedule,都会启动完全相同的模型,对上一次运行没有任何记忆。

这不是你可以通过 prompt 绕过的缺陷。你可以写出世界上最巧妙的 system prompt,但 Run 48 仍然从空白开始。模型是无状态的;以人类意义上的"通过练习变得更好"来理解,学习根本不是它所做的事情。

所以当有人说他们的 Agent 在多次运行中"学到"了东西时,实际上发生了什么?Agent 把东西写下来,之后再读回来。这就是整个诀窍,而诀窍的质量决定了你的 Agent 是复合进步还是只是重复自己。

最接近真正学习的方式:写更好的指令,然后重读它们

Google 研究人员最近以异常清晰的方式演示了这种模式。他们的 WikiSkill 工作让 Agent 拥有了对过去错误的持久记忆,而机制几乎令人失望地简单:每次运行后,Agent 为自己写更好的指令,存储它们,并在下一次运行中调取出来。模型本身永远不会改变。它在每次运行开始时读取的指令变得更智能。从外部看,Run 30 确实比 Run 1 表现更好,不是因为大脑改进了,而是因为简报改进了。

对于自动化运营者来说,这重新構了整个人工智能的记忆问题。你不是在试图让你的 Agent"更聪明"。你是在一次又一次地建立它的简报文件。

每个改进 Agent 需要的两步循环

如果你运行定时 Agent,学习循环只有两个步骤,而且大多数设置至少缺少一个。

步骤 1:在每次运行结束时写回。 你的 Agent 做的最后一件事应该是记录这次运行教给它什么:什么成功了,什么失败了,什么出乎意料,它下次会做什么不同的事。不是原始的日志转储,而是一条精炼的笔记。"Acme 发票 PDF 的总数在第 2 页,不在第 1 页;先检查那里"是一条 lesson。Three pages of tool-call transcripts is a log. Logs are for debugging. Lessons are for getting better.

步骤 2:在每次运行开始时回忆。 在 Agent 接触任务之前,它检索与这次运行相关的 lessons。每天早上运行的潜在客户评分 Agent 应该在评分之前阅读其积累的关于评分边缘情况的笔记。检索必须是有选择性的:注入五个相关的 lessons,而不是整个 400-lesson 的档案。一个被自己的笔记淹没的 Agent 表现比空白状态的更差。

错过步骤 1,Agent 就永远不会积累任何东西;Run 200 和 Run 1 一样天真。错过步骤 2,lessons 存在但从不影响行为,这就和没有它们一样。两个步骤都需要是工作流程中有意识的部分,而不是你希望模型自己做的事情,因为它不会。

好的 lesson 是什么样的

大多数 Agent 记忆系统在这里失败,也就是存储内容的质量上。一条有用的 lesson 有三个属性。它是具体的:"check page 2 for the total" 胜于 "be careful with invoices." 它命名了它的触发条件:Agent 需要知道这条 lesson 何时适用,这样检索才能找到它。而且它是可操作的:它告诉未来的运行应该做什么不同的事,而不只是什么地方出了问题。

一条糟糕的 lesson 看起来像 "the run failed at 3am." 那是一条穿着 lesson 外衣的日志条目。一条好的 lesson 看起来像 "the vendor API returns 429s between 2am and 4am during their maintenance window; add a retry with backoff instead of failing the run." One of these changes future behavior. The other just takes up retrieval space.

这也是为什么仅原始对话历史不会产生学习。完整的历史是有价值的,它是 lessons 提炼的证据,你想保留它。但是一个 Agent 在每次运行开始时阅读 50 份完整 transcripts 是缓慢的、昂贵的,而且会感到困惑。Transcripts 是原材料。Lessons 才是产品。

诚实的承诺版本

正确设定期望,这个模式确实很强大。你的 Agent 永远不会像人类员工那样成为专家。它永远不会有直觉。但是一个有纪律的写回和回忆循环的定时 Agent 做了几乎同样有用的事情:它停止在每次运行中支付 rookie tax。同样的错误不会再发生第二次。边缘情况能被立即处理,而不是每天早上重新发现。这就是复合,它是真实的,只要你记住复合存在于记忆层,而不是模型中。

这也是工具比大多数运营者预期的更重要的地方。Lesson store 必须跨运行存活,可以从堆栈中的每个工具访问,并且随着增长保持可查询。n8n 主机上的 JSON 文件可以工作,直到 Agent 还需要从 Make scenario、cron job 和笔记本电脑上的编码助手运行,那时"一份简报文件"突然变成了四份不同的文档。

Vilix AI 正是为这种问题而构建的。它是云托管的,所以没有基础设施要管理,当主机被清除时也不会丢失任何文件。相同的记忆通过 MCP 在任何地方都可以访问,所以定时 Agent、聊天助手和每个其他工具都读写相同的 lessons,而不是分叉它们。它保留完整的对话历史,而不仅仅是精炼的事实,所以 lessons 总是离检索只有一步之遥。有永久免费计划,7 天 Pro 试用无需信用卡,你可以随时以可移植格式导出或删除所有内容。在 vilix.ai 了解更多信息。

你的 Agent 永远不会从其错误中学习。这不是悲观,这是架构。权重是冻结的,无论多少次运行都不会改变它们。但是,一个具有记忆层的 Agent,在每次运行结束时捕获 lessons,在下一次运行开始时回忆它们,从外部看,表现得就像能学习的东西一样。有意识地构建这个循环,保持 lessons 清晰,Run 200 将真正优于 Run 1。只是要确保功劳归到该归的地方:不是模型,而是你给它的记忆。

Original source

本文由 AI 翻译整理自 dev.to · AI,原文版权归原作者所有。

阅读英文原文
上一篇
OpenAI暂停最新模型训练,因AI代理出现异常行为报告
下一篇
Plugin4Shell:AI 编程工具插件市场的供应链漏洞