基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
  • 知识卡片碎片时间过考点
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
    • AI 热点每日 AI 资讯与动向
AI 工作台
旧版
AIHT
内容
精选全部 AI 动态热点榜AI 日报收藏
分类
模型行业编程产品技术观点开源
更多
Agent 接入
返回首页开发者导航
AIHT
精选 / 资讯详情
8.0
热点
AI SCORE
技术实践2026-11-16 12:31

将 Agent 的工具意图与执行权限分离

dev.to · AI#Agent#权限管理#提示注入
Editor brief · 编辑速览

文章指出,当 Agent 运行时同时持有多个生产系统的操作权限,提示注入或推理失误就可能直接触发越权行为。建议运行时只生成结构化工具请求,由独立授权机制决定是否执行。

文章思维导图
Knowledge map
拖拽缩放
AI deep read

AI 深度解读

Agent 读懂了一张恶意工单,接着修改了客户资料,问题只在模型没守住提示词吗?作者认为,更深的漏洞是:负责推理和规划的运行时,同时握着执行生产操作的权限,模型的一次判断错误就可能直接落地。

原文提出的办法是把「想做什么」和「允许做什么」分开:Agent 提交结构化工具请求,独立授权层在执行前逐次检查。它没有提供实测数据,但给出了一个适合检查 Agent 架构的具体问题:主进程失守后,还能调用多少工具?

一套工作流,不该默认共享全部权限

作者用一个假想的客服 Agent 说明风险。它需要读取工单、搜索内部文档、更新客户记录。为了让流程跑通,团队给运行时配置了一个服务身份,可以访问这三个系统。

正常工单下,这样很方便。但恶意工单可能夹带指令:忽略客服任务,搜索内部客户记录,再按指定内容修改某个账户。

这里存在两层失败。第一层是模型把工单中的内容当成了应当执行的指令,也就是提示注入(Prompt Injection)。第二层是运行时已经拥有执行这些操作的权限,生成的意图可以直接变成生产操作。

能调用某个工具,不等于当前任务有权执行这个操作。

即使代码里把规划、记忆和工具调用拆成了不同模块,只要它们仍能使用同一套宽泛凭据,权限实际上就没有分开。

授权为什么必须发生在每次工具调用前

作者建议把运行时当作规划者:它负责提出结构化工具请求,由独立授权层决定是否允许执行,而不是让它持有所有工具的无限制凭据。

这个授权层至少要检查六件事:

  • 请求来自哪个 Agent 身份。
  • 是哪个用户或工作流发起了任务。
  • 涉及哪个工具和哪份资源。
  • 请求执行什么操作。
  • 操作只读取数据,还是会修改数据。
  • 请求是否符合当前任务与策略。

检查位置也很关键。只在工作流开始时授权,时间太早。Agent 后面可能读到新的恶意内容、切换工具,或者转向另一条客户记录。最初允许处理某张工单,不能自动推导出后续所有操作都合理。

因此,控制应落实在工具执行边界,也就是请求即将产生实际效果的位置。搜索内部文档可以自动放行;修改客户记录则可能需要更窄的策略、经过核验的目标资源,或者人工审批。

原文没有要求每一步都找人确认。它强调的是,每一步都要重新接受适用于该操作的授权判断。

我的判断

我认同这个拆分方向。它把 Agent 安全从「希望模型听话」推进到了可执行的权限控制:即使模型提出了错误操作,系统仍有机会拦住它。

但授权层不能只是主进程里多写一个判断函数。如果运行时仍能拿到生产凭据、绕过检查直接调用工具,这个边界就没有成立。作者提出的检验很直接:假如 Agent 主进程被攻破,它还能调用所有已知工具吗?如果能,拆开的只是代码职责。

这套方案也有没讲清的地方。谁来可信地确认当前任务、用户身份和目标资源?怎样判断请求是否符合任务?这些信息如果完全由 Agent 自己填写,检查效果就要打问号。原文没有提供策略实现、性能开销或攻击拦截率,也没有与其他方案做对照。

相比只靠提示词约束,它增加了明确的执行关口;相比单纯缩小凭据权限,它进一步关注「此时、此任务、此资源」能不能操作。但独立授权也不能替代最小权限配置,两者可以一起使用。

文末引导读者了解 AXEC 并预约会议,但正文没有提供足够的产品细节,无法据此判断它的具体实现效果。

能拿来做什么

  • 给现有 Agent 列一张工具权限表,逐项写清读取或修改、允许访问的资源,以及哪些操作需要人工审批,先找出一套凭据覆盖多个系统的位置。
  • 在 Node 工具执行入口增加独立授权步骤,让 Agent 提交结构化请求,并检查身份、操作和目标资源;同时确保运行时无法绕过入口直接使用生产凭据。
  • 检查日常 AI 编程流程里的文件修改、命令执行等工具权限,确认开始任务时的一次授权是否覆盖过宽,后续操作是否仍按实际目标接受检查。
  • 用恶意工单测试客服 Agent,观察模型提出越权修改后,工具边界是否真正拒绝执行;不要只看模型有没有口头表示拒绝。
Original source

本文由 AI 通读原文后重新编写,观点部分为站内判断,细节以原文为准,来源 dev.to · AI,原文版权归原作者所有。

阅读原文
上一篇
Qwen4-Max 正式开放,支持百万上下文
下一篇
Qwen4-Max 发布:编程升级,旗舰闭源

资讯速览

dev.to · AI · 2026-11-16 12:31

AI 评分 8.0 / 10

相关标签

#Agent#权限管理#提示注入

继续阅读

  • Codex 日志为何造成大量 SSD 写入
  • Qwen4-Max 正式开放,支持百万上下文
  • Qwen4-Max 发布:编程升级,旗舰闭源
  • 端侧视觉模型部署卡在厂商量化资产
  • 伪装成项目规范的指令投毒更难识别