用策略网关约束 Agent 的真实操作
开源原型 Parmana 在调用方与业务系统之间设置网关,按显式、带版本的策略检查操作,必要时等待签名批准。文章指出,提示词限制不等于权限执行,执行系统自行生成的日志也不足以独立证明行为。
AI 深度解读
让 AI Agent 退一笔款、合并一次 PR,难点已经从「能不能做」转到「谁允许它做,事后凭什么核查」。开源原型 Parmana 给出的方案是:Agent 只提交行动提案,由网关按策略放行,再留下可独立验签的记录。
这套设计值得看的地方,是它把权限和审计从提示词里拆了出来,也明确承认了边界:绕过网关的调用不受检查,签名不能自动证明身份,项目目前也不适合公开使用。
为什么「最多退款 500」不能只写在提示词里
在提示词里要求 Agent「最多退款 500」,可以影响模型的选择,却不能强制阻止超额退款。Agent 可能忽略规则,它读到的工单、网页也可能夹带提示注入,干扰后续行动。
行为要求只有落到执行路径上,才有机会成为权限约束。
Parmana 因此把调用方和执行方分开。无论调用方是 Agent、应用还是人,都先提出行动请求,再由网关决定是否执行。它不替 Agent 判断该做什么,而是检查这件事是否被允许。
日志也有类似问题。如果执行操作的系统同时负责写日志,日志首先是它对自身行为的陈述。作者希望补上的是:让其他人能够检查记录是否由受信任的密钥签发,而不必只听执行系统自己解释。
这里要分清两个问题:记录有没有被篡改,与记录描述的现实是否完全准确,并不是同一回事。
一次行动怎样经过策略、审批和连接器
Parmana 的执行流程可以拆成三个阶段。
行动发生前,请求要经过显式、带版本的策略检查。策略拒绝,请求就被驳回;策略要求人工审批,请求就等待由受信任密钥签署的批准。没有批准就不执行,而且这套检查同时覆盖读取和写入。
把读取也纳入约束很重要。读取客户资料、业务数据,同样是在使用系统权限,不能因为没有修改数据就默认放行。
行动执行时,在目前支持的路径上,网关负责获取连接器所需的凭据。通过 API 发起请求的 Agent 不会收到这些凭据,网关只通过连接器释放一次获准的行动。这里的连接器,可以理解为实际对接目标系统、执行操作的组件。
行动结束后,系统写下一份签名记录,记录授权了什么,以及实际发生了什么。验证者使用自己选择信任的公钥,就能离线验签。
原文没有展开失败重试、部分成功或外部系统超时的处理。因此,作者所说的「执行一次」,还不能直接理解为已经证明了跨系统的端到端 exactly-once 保证。
签名能核查记录,却不能替你建立信任
签名能够说明,一份记录由某个特定密钥签发。它无法独立证明这个密钥属于 Parmana,也不能证明批准操作的密钥属于你以为的那个人。密钥与身份的对应关系,需要依靠系统之外的密钥管理流程建立。
作者还列出了三个直接影响落地的限制。
第一,只有经过网关的流量才会被检查。Agent 如果直接调用目标系统,这次行动就不在 Parmana 的覆盖范围内。封堵直接调用属于计划中的工作,目前尚未实现。
第二,凭据隔离只针对 API 调用方。同一台主机上的代码,如果能读取服务端环境,仍可能拿到连接器凭据。它没有解决主机访问权限带来的风险。
第三,项目仍是原型,不适合公开使用。接口、策略和存储格式都可能在没有通知的情况下变化。
相较于功能介绍,作者管理功能声明的方式也值得看:每项声明都有编号,关联对应代码和测试,标明证据支持的范围,以及尚未成立的部分。声明变更进入仓库变更日志;别人认为声明有误,也有流程把质疑登记到对应条目上。
这让「项目声称做到了什么」成为可以审查的对象。不过,原文没有展示具体测试结果,不能把这种管理方式直接当成实现已获验证的结论。
我的判断
我认同它把权限判断放到执行入口的方向。与仅靠提示词相比,网关能在调用发生前作出放行或拒绝的决定;与事后查看普通日志相比,签名记录增加了独立检查签发来源和完整性的能力。
但这套方案的价值高度依赖接入前提。只要 Agent 仍能持有另一套凭据、直接访问目标系统,网关就只覆盖部分操作。对于要求所有敏感动作都受控的团队,这个缺口需要在采用前解决。
签名记录能提供核查材料,不能单独证明行动正确、审批人身份可靠或所有操作均已纳管。
作者没有给出生产部署数据,也没有提供与现有权限系统、审批流或审计平台的对照数据。「可追溯的声明比单一功能更重要」是作者的判断,不是实验结论。当前更适合借鉴其设计边界和声明管理方式,不能仅凭介绍就把原型当作生产安全保障。
能拿来做什么
- 给日常 AI 编程流程接入 PR 合并能力时,可以让 Agent 先提交合并请求,再由独立执行入口检查策略;需要人工批准的操作,收到有效批准后才放行。
- 在 Node 服务中接入业务操作时,可以借鉴调用方、策略网关、连接器的分工,让服务端连接器保管执行凭据,并检查是否仍存在绕过网关的调用路径。
- 整理 Agent 工具权限时,把读取操作一起列入策略,逐项说明什么可以直接执行、什么需要审批、什么必须拒绝。
- 为自己的 Agent 系统建立功能声明清单,每项写清代码和测试依据、适用范围及未覆盖情况,尤其不要把「有签名」写成「已经证明全部行为可信」。