基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
  • 知识卡片碎片时间过考点
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
    • AI 热点每日 AI 资讯与动向
AI 工作台
旧版
AIHT
内容
精选全部 AI 动态热点榜AI 日报收藏
分类
模型行业编程产品技术观点开源
更多
Agent 接入
返回首页开发者导航
AIHT
精选 / 资讯详情
8.0
热点
AI SCORE
技术实践2026-11-16 23:33

用策略网关约束 Agent 的真实操作

dev.to · AI#Agent#权限控制#审计
Editor brief · 编辑速览

开源原型 Parmana 在调用方与业务系统之间设置网关,按显式、带版本的策略检查操作,必要时等待签名批准。文章指出,提示词限制不等于权限执行,执行系统自行生成的日志也不足以独立证明行为。

文章思维导图
Knowledge map
拖拽缩放
AI deep read

AI 深度解读

让 AI Agent 退一笔款、合并一次 PR,难点已经从「能不能做」转到「谁允许它做,事后凭什么核查」。开源原型 Parmana 给出的方案是:Agent 只提交行动提案,由网关按策略放行,再留下可独立验签的记录。

这套设计值得看的地方,是它把权限和审计从提示词里拆了出来,也明确承认了边界:绕过网关的调用不受检查,签名不能自动证明身份,项目目前也不适合公开使用。

为什么「最多退款 500」不能只写在提示词里

在提示词里要求 Agent「最多退款 500」,可以影响模型的选择,却不能强制阻止超额退款。Agent 可能忽略规则,它读到的工单、网页也可能夹带提示注入,干扰后续行动。

行为要求只有落到执行路径上,才有机会成为权限约束。

Parmana 因此把调用方和执行方分开。无论调用方是 Agent、应用还是人,都先提出行动请求,再由网关决定是否执行。它不替 Agent 判断该做什么,而是检查这件事是否被允许。

日志也有类似问题。如果执行操作的系统同时负责写日志,日志首先是它对自身行为的陈述。作者希望补上的是:让其他人能够检查记录是否由受信任的密钥签发,而不必只听执行系统自己解释。

这里要分清两个问题:记录有没有被篡改,与记录描述的现实是否完全准确,并不是同一回事。

一次行动怎样经过策略、审批和连接器

Parmana 的执行流程可以拆成三个阶段。

行动发生前,请求要经过显式、带版本的策略检查。策略拒绝,请求就被驳回;策略要求人工审批,请求就等待由受信任密钥签署的批准。没有批准就不执行,而且这套检查同时覆盖读取和写入。

把读取也纳入约束很重要。读取客户资料、业务数据,同样是在使用系统权限,不能因为没有修改数据就默认放行。

行动执行时,在目前支持的路径上,网关负责获取连接器所需的凭据。通过 API 发起请求的 Agent 不会收到这些凭据,网关只通过连接器释放一次获准的行动。这里的连接器,可以理解为实际对接目标系统、执行操作的组件。

行动结束后,系统写下一份签名记录,记录授权了什么,以及实际发生了什么。验证者使用自己选择信任的公钥,就能离线验签。

原文没有展开失败重试、部分成功或外部系统超时的处理。因此,作者所说的「执行一次」,还不能直接理解为已经证明了跨系统的端到端 exactly-once 保证。

签名能核查记录,却不能替你建立信任

签名能够说明,一份记录由某个特定密钥签发。它无法独立证明这个密钥属于 Parmana,也不能证明批准操作的密钥属于你以为的那个人。密钥与身份的对应关系,需要依靠系统之外的密钥管理流程建立。

作者还列出了三个直接影响落地的限制。

第一,只有经过网关的流量才会被检查。Agent 如果直接调用目标系统,这次行动就不在 Parmana 的覆盖范围内。封堵直接调用属于计划中的工作,目前尚未实现。

第二,凭据隔离只针对 API 调用方。同一台主机上的代码,如果能读取服务端环境,仍可能拿到连接器凭据。它没有解决主机访问权限带来的风险。

第三,项目仍是原型,不适合公开使用。接口、策略和存储格式都可能在没有通知的情况下变化。

相较于功能介绍,作者管理功能声明的方式也值得看:每项声明都有编号,关联对应代码和测试,标明证据支持的范围,以及尚未成立的部分。声明变更进入仓库变更日志;别人认为声明有误,也有流程把质疑登记到对应条目上。

这让「项目声称做到了什么」成为可以审查的对象。不过,原文没有展示具体测试结果,不能把这种管理方式直接当成实现已获验证的结论。

我的判断

我认同它把权限判断放到执行入口的方向。与仅靠提示词相比,网关能在调用发生前作出放行或拒绝的决定;与事后查看普通日志相比,签名记录增加了独立检查签发来源和完整性的能力。

但这套方案的价值高度依赖接入前提。只要 Agent 仍能持有另一套凭据、直接访问目标系统,网关就只覆盖部分操作。对于要求所有敏感动作都受控的团队,这个缺口需要在采用前解决。

签名记录能提供核查材料,不能单独证明行动正确、审批人身份可靠或所有操作均已纳管。

作者没有给出生产部署数据,也没有提供与现有权限系统、审批流或审计平台的对照数据。「可追溯的声明比单一功能更重要」是作者的判断,不是实验结论。当前更适合借鉴其设计边界和声明管理方式,不能仅凭介绍就把原型当作生产安全保障。

能拿来做什么

  • 给日常 AI 编程流程接入 PR 合并能力时,可以让 Agent 先提交合并请求,再由独立执行入口检查策略;需要人工批准的操作,收到有效批准后才放行。
  • 在 Node 服务中接入业务操作时,可以借鉴调用方、策略网关、连接器的分工,让服务端连接器保管执行凭据,并检查是否仍存在绕过网关的调用路径。
  • 整理 Agent 工具权限时,把读取操作一起列入策略,逐项说明什么可以直接执行、什么需要审批、什么必须拒绝。
  • 为自己的 Agent 系统建立功能声明清单,每项写清代码和测试依据、适用范围及未覆盖情况,尤其不要把「有签名」写成「已经证明全部行为可信」。
Original source

本文由 AI 通读原文后重新编写,观点部分为站内判断,细节以原文为准,来源 dev.to · AI,原文版权归原作者所有。

阅读原文
上一篇
用提示缓存降低编程智能体调用开销
下一篇
智能体记忆设计:筛选比堆积更有效

资讯速览

dev.to · AI · 2026-11-16 23:33

AI 评分 8.0 / 10

相关标签

#Agent#权限控制#审计

继续阅读

  • 共享知识库如何实现租户级回答定制
  • 用提示缓存降低编程智能体调用开销
  • 智能体记忆设计:筛选比堆积更有效
  • 五款 Gemini 音频预览模型进入停用窗口
  • 智能体安全的盲点:合法凭证也会越界