将 Agent 的工具意图与执行权限分离
文章指出,当 Agent 运行时同时持有多个生产系统的操作权限,提示注入或推理失误就可能直接触发越权行为。建议运行时只生成结构化工具请求,由独立授权机制决定是否执行。
AI 深度解读
Agent 读懂了一张恶意工单,接着修改了客户资料,问题只在模型没守住提示词吗?作者认为,更深的漏洞是:负责推理和规划的运行时,同时握着执行生产操作的权限,模型的一次判断错误就可能直接落地。
原文提出的办法是把「想做什么」和「允许做什么」分开:Agent 提交结构化工具请求,独立授权层在执行前逐次检查。它没有提供实测数据,但给出了一个适合检查 Agent 架构的具体问题:主进程失守后,还能调用多少工具?
一套工作流,不该默认共享全部权限
作者用一个假想的客服 Agent 说明风险。它需要读取工单、搜索内部文档、更新客户记录。为了让流程跑通,团队给运行时配置了一个服务身份,可以访问这三个系统。
正常工单下,这样很方便。但恶意工单可能夹带指令:忽略客服任务,搜索内部客户记录,再按指定内容修改某个账户。
这里存在两层失败。第一层是模型把工单中的内容当成了应当执行的指令,也就是提示注入(Prompt Injection)。第二层是运行时已经拥有执行这些操作的权限,生成的意图可以直接变成生产操作。
能调用某个工具,不等于当前任务有权执行这个操作。
即使代码里把规划、记忆和工具调用拆成了不同模块,只要它们仍能使用同一套宽泛凭据,权限实际上就没有分开。
授权为什么必须发生在每次工具调用前
作者建议把运行时当作规划者:它负责提出结构化工具请求,由独立授权层决定是否允许执行,而不是让它持有所有工具的无限制凭据。
这个授权层至少要检查六件事:
- 请求来自哪个 Agent 身份。
- 是哪个用户或工作流发起了任务。
- 涉及哪个工具和哪份资源。
- 请求执行什么操作。
- 操作只读取数据,还是会修改数据。
- 请求是否符合当前任务与策略。
检查位置也很关键。只在工作流开始时授权,时间太早。Agent 后面可能读到新的恶意内容、切换工具,或者转向另一条客户记录。最初允许处理某张工单,不能自动推导出后续所有操作都合理。
因此,控制应落实在工具执行边界,也就是请求即将产生实际效果的位置。搜索内部文档可以自动放行;修改客户记录则可能需要更窄的策略、经过核验的目标资源,或者人工审批。
原文没有要求每一步都找人确认。它强调的是,每一步都要重新接受适用于该操作的授权判断。
我的判断
我认同这个拆分方向。它把 Agent 安全从「希望模型听话」推进到了可执行的权限控制:即使模型提出了错误操作,系统仍有机会拦住它。
但授权层不能只是主进程里多写一个判断函数。如果运行时仍能拿到生产凭据、绕过检查直接调用工具,这个边界就没有成立。作者提出的检验很直接:假如 Agent 主进程被攻破,它还能调用所有已知工具吗?如果能,拆开的只是代码职责。
这套方案也有没讲清的地方。谁来可信地确认当前任务、用户身份和目标资源?怎样判断请求是否符合任务?这些信息如果完全由 Agent 自己填写,检查效果就要打问号。原文没有提供策略实现、性能开销或攻击拦截率,也没有与其他方案做对照。
相比只靠提示词约束,它增加了明确的执行关口;相比单纯缩小凭据权限,它进一步关注「此时、此任务、此资源」能不能操作。但独立授权也不能替代最小权限配置,两者可以一起使用。
文末引导读者了解 AXEC 并预约会议,但正文没有提供足够的产品细节,无法据此判断它的具体实现效果。
能拿来做什么
- 给现有 Agent 列一张工具权限表,逐项写清读取或修改、允许访问的资源,以及哪些操作需要人工审批,先找出一套凭据覆盖多个系统的位置。
- 在 Node 工具执行入口增加独立授权步骤,让 Agent 提交结构化请求,并检查身份、操作和目标资源;同时确保运行时无法绕过入口直接使用生产凭据。
- 检查日常 AI 编程流程里的文件修改、命令执行等工具权限,确认开始任务时的一次授权是否覆盖过宽,后续操作是否仍按实际目标接受检查。
- 用恶意工单测试客服 Agent,观察模型提出越权修改后,工具边界是否真正拒绝执行;不要只看模型有没有口头表示拒绝。