共享记忆可能让智能体间接泄露数据
受限数据经智能体计算、摘要后进入共享记忆,可能被无源数据权限的其他智能体检索到。作者给出三智能体复现步骤,并报告其测试中的派生信息泄露比例。
AI 深度解读
共享记忆里的权限漏洞,可能出现在一次正常的协作中:Finance agent 把薪资统计写入缓存,另一个 agent 提炼成地区增长结论,Marketing agent 再检索到它。没有人越权读取原表,受限信息却沿着摘要传了出去。
作者提出的修复办法,是让每条记忆保留完整的数据来源链,读取时检查整条链上的权限。这个思路值得了解,但文中的零泄漏结果来自合成测试,成立的关键前提是来源记录足够完整。
为什么没读薪资表,也会拿到薪资信息
原文举的例子分三步:Finance agent 计算各地区平均收入并缓存;第二个 agent 根据缓存得出「高收入地区增长最快」并保存;Marketing agent 查询地区增长,拿到了由薪资数据推导出的答案。
问题出在新记录脱离了原始数据的权限约束。摘要可能不再包含薪资列名,却仍然携带从薪资数据中提取的信息。如果系统只检查当前记录的内容或它所在的共享空间,就可能放行。
共享记忆的权限不能只看当前记录,还要看它由什么推导而来。
作者报告,在其 IEEE Access 论文的测试中,相对于按内容设限的基线,跨团队检索有 18.8–25.5% 泄漏了受限列信息;普通 mem0 记忆对派生内容的泄漏率约为 71%。
这里的数字是作者报告的实验结果,不能直接当成一般团队的风险概率。
五分钟检查,测的是摘要能否绕过源数据权限
作者给出的检查不需要攻击提示词,只需安排三个权限不同的 agent:
- 第一个 agent 根据受限来源写入一条记录。
- 第二个 agent 读取这条记录,再写入摘要。
- 第三个 agent 没有原始来源的访问权限,但可以搜索摘要涉及的主题。
如果第三个 agent 能取回摘要,就说明来源权限没有沿着推导过程传递。
这项检查适用于 mem0、Postgres store、LangChain retriever,以及其他跨 agent 缓存结果的系统。关键不在使用哪个框架,而在多个角色是否共用记忆,以及新记录是否继承来源限制。
不过,它只能帮助发现这条传播路径。一次搜索没有命中摘要,不足以证明系统没有同类漏洞,也可能只是检索没找到。
修复要检查整条来源链,缺记录就拒绝
作者把方案称为 derivation gating,即按推导来源控制读取。每条结果都保存数据血缘(lineage),也就是它依赖哪些输入,以及这些输入又依赖什么。
读取时,请求者必须有权访问整条来源链上的所有敏感输入。来源缺失则拒绝放行。即使 Marketing agent 只想看最终摘要,也不能跳过薪资来源的权限检查。
作者在四组合成基准中报告,该机制消除了被测泄漏,同时保留了大部分复用收益。mem0 基准给出的具体结果是:普通 mem0 泄漏率为 71.2%,加门控后为零;有权用户的 Recall@10 为 0.999,也就是前 10 条检索结果的召回指标仍然很高。
实现均以 MIT 协议开源:
- amu-governance 提供核心模型、策略注册表和 SQL 血缘提取。
- amu-pgvector 使用 PostgreSQL + pgvector,通过行级安全策略执行限制。
- langchain-amu 提供 AMUVectorStore,原文称其已列入 LangChain 集成文档。
- amu-pgvector-mcp 提供 MCP server,每个 agent 角色对应一个服务。
- amu-mem0 在 mem0 读取流程外增加包装层。
作者建议,记忆存放在 Postgres 时优先在存储层执行门控,让 raw SQL、Python、LangChain 和 MCP 共用同一套策略;由记忆库管理存储时,再采用包装层。完整方案写在白皮书《Derivation-Gated Memory for AI Agents》中,底层研究为 Sangaraju 与 Vissa 发表于 IEEE Access 第 14 卷、2026 年的《Lineage-Aware Memory Governance》。
我的判断
我认同作者把权限检查延伸到派生结果。只给原表设权限,却允许摘要自由进入共享记忆,确实会留下治理缺口。相比在各个调用入口分别加检查,存储层统一执行策略,也更容易覆盖不同读取路径。
但零泄漏有很强的前提:血缘必须完整。作者只记录 90% 的推导边时,仍有 11.7% 的查询发生泄漏。漏掉一次来源关联,就可能让后续摘要逃过检查。
另一个限制是,门控检查的标签与泄漏指标统计的标签相同,零泄漏部分来自测试定义本身。四组测试都是合成数据,原文也没有给出足以判断生产性能成本的具体延迟和吞吐数据。因此,这些结果支持机制在被测负载下可行,尚不能替真实业务背书。
它也不负责识别未声明来源的改写。如果 agent 把受限内容换种措辞写入,却没有登记来源,血缘门控就看不见这条依赖。对于不需要跨角色复用的业务,分开存储记忆也值得考虑,代价是减少共享收益。
能拿来做什么
- 给现有多 agent 应用补一条跨权限检查:用受限数据生成记录,再生成摘要,最后让无权角色检索,并核对来源限制是否仍然生效。
- 在 Node 编排层写入共享记忆时,把输入记录标识和敏感来源作为必要元数据传递,尤其要覆盖「读取旧记忆后生成新摘要」这一步。
- 如果多个入口共用 PostgreSQL + pgvector,优先评估存储层统一执行权限策略;采用 mem0 包装层时,核对应用中的读取路径是否都经过它。
- 评估方案时同时检查血缘完整度和授权用户的检索质量,不要只看泄漏率;原文的 90% 血缘记录实验,已经显示缺失依赖会破坏效果。