智能体为何在新会话里执行旧指令
一个维护约 1400 份关联记忆文件的团队发现,旧决策仍散落在交接记录中,智能体在上下文压缩后可能重新采用旧指令。该团队还观察到,超过约 1 万字符的钩子输出有时只会以约 2 KB 的预览进入上下文。
AI 深度解读
AI 编程代理明明答应按新规则做事,隔几次会话却又照旧办。InflectAI 团队翻查约 1,400 个互相链接的记忆文件,发现两种故障看起来几乎一样:有时代理读到了已经废止的规则,有时现行规则虽然在磁盘上,却在进入上下文前被截掉了。
作者的做法是给规则设一个由操作者维护的权威来源,保留历史但把它移出当前上下文,再检查每次会话实际收到了什么。对维护仓库指令、交接文件和工具 Hook 的程序员来说,最值得借鉴的是怎么把一次「代理又忘了」查到具体环节。
先查恢复后的会话到底收到了什么
团队原来要求每个代理把长期指令写进交接文件。各代理用自己的话复述,规则变更时只更新了部分副本。等长对话发生上下文压缩(compaction),运行时用摘要重建会话,旧规则就可能从交接文件或自动摘要里重新出现。排查时,作者沿着一条出错的指令核对五处输入:顶层指令、共享记忆索引、代理专属记忆、交接文件和自动压缩摘要。
还要看 Hook 渲染后的实际输出。团队观察到,在他们的环境里,超过约 10,000 字符的 Hook 输出可能只以约 2 KB 的预览进入上下文。后来他们还碰到过索引里留着现行规则的标题,正文却被排在前面的旧材料挤掉的情况。看到代理执行了旧流程,先确认它究竟收到了冲突的两条指令,还是压根没收到新指令。这两个故障需要修的位置不同。
每个主题只维护一份现行规则
作者把操作规则放进一个单独做版本管理的存储,每个主题维护一个文件。Markdown 记录用 ## LIVE 放现行指令,## REPLACES 指向被替代的决定,## HISTORY 保存历史。live_section 只提取 LIVE 正文。可运行示例用 JSON 的 status 字段表达同一件事,加载器筛掉 ENDED。维护者可以另写一段通俗解释,遇到分歧按操作者原话执行。来源 ID 方便追溯,权限仍由存储的写入控制决定。
交接文件于是只需要留在途工作、代理自己的决定和规则指针。已有副本还得另行清理。团队记录被替换的原文,每六小时做一次字面扫描,每天用模型复查有改动的文件,查找换过措辞的副本。模型找出来的内容仍需复核。这样既能追查当初为什么改规则,也能避免旧句子在恢复会话时重新参与决策。
字符预算用完时,要知道哪条规则没送达
启动渲染器优先放当前代理适用的指令,其次是所属领域的规则,再到全局规则,显式置顶可以调整顺序。11 月 17 日检查的实现用文件修改时间在同一档内优先安排最近 3 * 86400 秒内改过的文件,超出窗口或读取失败时用 1e9 排序。恢复备份或复制文件都可能改动这个时间,规则何时生效仍要看来源记录。11 月 13 日的架构给代理记忆和交接分别设了 9,500 和 9,000 字符预算,标题、来源和省略提示也占空间。这两个值来自团队自己的截断观察。
下面的教学代码把完整规则块和 NOT SHOWN 提示一起算进预算,确保装不下的规则还能在后续调用里送达。
rest = [name for name in remaining if name != record["id"]]
tail = "\nNOT SHOWN: " + ", ".join(rest) if rest else ""
candidate = HEADER + "\n".join(blocks + [block]) + tail
if len(candidate) > cap:
continue
blocks.append(block)
remaining = rest
next_seen[record["id"]] = {"digest": digest, "offset": offset}
看最后一行,它只在完整规则块通过预算检查后才写入 next_seen。这个 cap 衡量上下文字符串,实际部署还要给外层 JSON 留空间。
作者用 worked_example.py 做了一个不用调用模型的回放。旧规则要求审查分支,新规则要求审查实际要部署的产物,中间夹了重复 20 次的调查笔记。旧加载器保留前 500 个字符,结果只有旧规则进入上下文。memory_context.py 的 plan_context 用同样的 cap=500 先装 [deploy v2],并标明 NOT SHOWN: notes。同一会话再把规则升到 v3,新增记录回滚计划的要求,内容指纹变化后就会重新投递。运行命令是 python3 worked_example.py。
会话恢复时补规则,执行动作时查条件
SessionStart 通过 hookSpecificOutput.additionalContext 注入上下文,并在压缩后重建已投递记录。会话中途则按拟执行的动作查规则,编辑模块时附一张说明职责、来源和现有检查的设计卡。作者的实现取 SHA-1 的前 12 个十六进制字符检测卡片变化,并用转录文件增长 400,000 字节作为重发阈值,内部估计约为 50,000 tokens。这个换算会受语言和工具输出影响。父会话和子代理也分别记账,免得父会话读过一条规则,负责执行的子代理就跳过投递。
团队发现代理忙起来会略过提示,还遇到过一个脚本在规则更新后约 30 小时仍沿用旧阈值。对「缺少产物审查记录」这类可以直接判断的条件,下面的 Hook 响应会拒绝拟执行的工具调用。
{
"hookSpecificOutput": {
"hookEventName": "PreToolUse",
"permissionDecision": "deny",
"permissionDecisionReason": "The required review for this artifact is missing."
}
}
这里真正拒绝调用的是 permissionDecision: "deny"。团队允许提示投递环节故障时继续运行,生产操作的强制检查则在无法确认条件时阻止执行。生产写入还要在可信的执行路径里做授权检查,防止其他工具入口绕过这道检查。
我的判断
作者最有说服力的部分是把「文件里有」「Hook 发出了」「代理照做了」拆成可分别检查的结果。11 月 17 日,他们发现实际 Hook 会在正文确认装得下之前标记已投递。修复合并并安装后,团队用测试数据跑过 24 项动作 Hook 测试和 6 项启动用例,其中包括省略的规则在下一次匹配调用时成功投递。作者没有在真实代理会话里观察到这次延迟投递,也没有测出代理遵从率。
11 月 13 日的内部架构记录了 77 个规则主题和 161 个可识别的动作类别。另一次回放中,27,597 次工具调用里,现有强制检查识别出的 1,011 次操作都映射到了动作类别。这个结果说明分类与现有识别器一致,覆盖了多少有后果的操作仍未知。作者也没给出和扩大上下文窗口的线上对照。扩大窗口可能缓解截断,旧指令的有效性仍需要显式管理。对规则少、入口集中的团队,我会先验证一条变更规则的完整投递过程,再决定是否需要 Sabriel Memory Control Plane 那样的维护体系。
能拿来做什么
- 从最近改过的一条仓库规则着手,例如前端发布前到底审查分支还是构建产物。找到仓库指令、共享记忆和交接摘要里的副本,标记已废止的说法,再抓一次恢复会话实际收到的 Hook 输出,核对现行正文是否完整。
- 给上下文加载写一个回归用例,先用长交接笔记挤掉一条规则,腾出空间后确认下一次匹配调用仍会投递它,再测试同一会话更新规则,以及压缩恢复后重新投递。原文配套示例用
python3 -m unittest -v test_memory_context.py运行测试。 - 如果 AI 代理能调用 Node 发布脚本,把产物审查检查放到真正发起写入的路径里。用缺少记录、读取异常和超时分别试一次,确认发布被拦截,再验证补齐对应产物的审查记录后能正常继续。