基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
  • 知识卡片碎片时间过考点
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
    • AI 热点每日 AI 资讯与动向
AI 工作台
旧版
AIHT
内容
精选全部 AI 动态热点榜AI 日报收藏
分类
模型行业编程产品技术观点开源
更多
Agent 接入
返回首页开发者导航
AIHT
精选 / 资讯详情
8.0
热点
AI SCORE
技术实践2026-11-17 23:39

共享记忆可能让智能体间接泄露数据

dev.to · AI#Agent#数据安全#共享记忆
Editor brief · 编辑速览

受限数据经智能体计算、摘要后进入共享记忆,可能被无源数据权限的其他智能体检索到。作者给出三智能体复现步骤,并报告其测试中的派生信息泄露比例。

文章思维导图
Knowledge map
拖拽缩放
AI deep read

AI 深度解读

共享记忆里的权限漏洞,可能出现在一次正常的协作中:Finance agent 把薪资统计写入缓存,另一个 agent 提炼成地区增长结论,Marketing agent 再检索到它。没有人越权读取原表,受限信息却沿着摘要传了出去。

作者提出的修复办法,是让每条记忆保留完整的数据来源链,读取时检查整条链上的权限。这个思路值得了解,但文中的零泄漏结果来自合成测试,成立的关键前提是来源记录足够完整。

为什么没读薪资表,也会拿到薪资信息

原文举的例子分三步:Finance agent 计算各地区平均收入并缓存;第二个 agent 根据缓存得出「高收入地区增长最快」并保存;Marketing agent 查询地区增长,拿到了由薪资数据推导出的答案。

问题出在新记录脱离了原始数据的权限约束。摘要可能不再包含薪资列名,却仍然携带从薪资数据中提取的信息。如果系统只检查当前记录的内容或它所在的共享空间,就可能放行。

共享记忆的权限不能只看当前记录,还要看它由什么推导而来。

作者报告,在其 IEEE Access 论文的测试中,相对于按内容设限的基线,跨团队检索有 18.8–25.5% 泄漏了受限列信息;普通 mem0 记忆对派生内容的泄漏率约为 71%。

这里的数字是作者报告的实验结果,不能直接当成一般团队的风险概率。

五分钟检查,测的是摘要能否绕过源数据权限

作者给出的检查不需要攻击提示词,只需安排三个权限不同的 agent:

  1. 第一个 agent 根据受限来源写入一条记录。
  2. 第二个 agent 读取这条记录,再写入摘要。
  3. 第三个 agent 没有原始来源的访问权限,但可以搜索摘要涉及的主题。

如果第三个 agent 能取回摘要,就说明来源权限没有沿着推导过程传递。

这项检查适用于 mem0、Postgres store、LangChain retriever,以及其他跨 agent 缓存结果的系统。关键不在使用哪个框架,而在多个角色是否共用记忆,以及新记录是否继承来源限制。

不过,它只能帮助发现这条传播路径。一次搜索没有命中摘要,不足以证明系统没有同类漏洞,也可能只是检索没找到。

修复要检查整条来源链,缺记录就拒绝

作者把方案称为 derivation gating,即按推导来源控制读取。每条结果都保存数据血缘(lineage),也就是它依赖哪些输入,以及这些输入又依赖什么。

读取时,请求者必须有权访问整条来源链上的所有敏感输入。来源缺失则拒绝放行。即使 Marketing agent 只想看最终摘要,也不能跳过薪资来源的权限检查。

作者在四组合成基准中报告,该机制消除了被测泄漏,同时保留了大部分复用收益。mem0 基准给出的具体结果是:普通 mem0 泄漏率为 71.2%,加门控后为零;有权用户的 Recall@10 为 0.999,也就是前 10 条检索结果的召回指标仍然很高。

实现均以 MIT 协议开源:

  • amu-governance 提供核心模型、策略注册表和 SQL 血缘提取。
  • amu-pgvector 使用 PostgreSQL + pgvector,通过行级安全策略执行限制。
  • langchain-amu 提供 AMUVectorStore,原文称其已列入 LangChain 集成文档。
  • amu-pgvector-mcp 提供 MCP server,每个 agent 角色对应一个服务。
  • amu-mem0 在 mem0 读取流程外增加包装层。

作者建议,记忆存放在 Postgres 时优先在存储层执行门控,让 raw SQL、Python、LangChain 和 MCP 共用同一套策略;由记忆库管理存储时,再采用包装层。完整方案写在白皮书《Derivation-Gated Memory for AI Agents》中,底层研究为 Sangaraju 与 Vissa 发表于 IEEE Access 第 14 卷、2026 年的《Lineage-Aware Memory Governance》。

我的判断

我认同作者把权限检查延伸到派生结果。只给原表设权限,却允许摘要自由进入共享记忆,确实会留下治理缺口。相比在各个调用入口分别加检查,存储层统一执行策略,也更容易覆盖不同读取路径。

但零泄漏有很强的前提:血缘必须完整。作者只记录 90% 的推导边时,仍有 11.7% 的查询发生泄漏。漏掉一次来源关联,就可能让后续摘要逃过检查。

另一个限制是,门控检查的标签与泄漏指标统计的标签相同,零泄漏部分来自测试定义本身。四组测试都是合成数据,原文也没有给出足以判断生产性能成本的具体延迟和吞吐数据。因此,这些结果支持机制在被测负载下可行,尚不能替真实业务背书。

它也不负责识别未声明来源的改写。如果 agent 把受限内容换种措辞写入,却没有登记来源,血缘门控就看不见这条依赖。对于不需要跨角色复用的业务,分开存储记忆也值得考虑,代价是减少共享收益。

能拿来做什么

  • 给现有多 agent 应用补一条跨权限检查:用受限数据生成记录,再生成摘要,最后让无权角色检索,并核对来源限制是否仍然生效。
  • 在 Node 编排层写入共享记忆时,把输入记录标识和敏感来源作为必要元数据传递,尤其要覆盖「读取旧记忆后生成新摘要」这一步。
  • 如果多个入口共用 PostgreSQL + pgvector,优先评估存储层统一执行权限策略;采用 mem0 包装层时,核对应用中的读取路径是否都经过它。
  • 评估方案时同时检查血缘完整度和授权用户的检索质量,不要只看泄漏率;原文的 90% 血缘记录实验,已经显示缺失依赖会破坏效果。
Original source

本文由 AI 通读原文后重新编写,观点部分为站内判断,细节以原文为准,来源 dev.to · AI,原文版权归原作者所有。

阅读原文
上一篇
AI 审批队列也会覆盖更新后的数据
下一篇
把多语言价格校验接入构建流水线

资讯速览

dev.to · AI · 2026-11-17 23:39

AI 评分 8.0 / 10

相关标签

#Agent#数据安全#共享记忆

继续阅读

  • Qwen4-Max 上线,编程表现与开放性成焦点
  • AI 审批队列也会覆盖更新后的数据
  • 把多语言价格校验接入构建流水线
  • 用手机统一管理本地编程智能体
  • MCP 调用全失败,服务日志却零报错