给 Agent 授权,应从零权限开始
Agent 继承用户账户权限,会获得超出任务需要的操作能力。文章主张采用能力安全模型,按任务授予范围明确、类型清晰且可撤销的权限。
AI 深度解读
AI Agent 在你的电脑上,究竟能做多少事?作者的答案是:很多时候,它继承的是你这个账户的权限,而不是当前任务需要的权限。模型一旦被外部文本带偏,拿来执行错误指令的,也可能是你整套账户能力。
作者主张用能力安全模型(Capability-Based Security)重新划定边界:Agent 从零权限出发,只领取具体、有限、可撤销的授权。这篇值得读,因为它把「模型会不会听话」变成了更可检查的问题:即使它不听话,系统究竟允许它动什么?
为什么给应用的权限,到了 Agent 手里就嫌大了
传统应用权限围绕两个假设设计:信任单位是应用,操作应用的是人。系统询问是否允许读取文件、访问网络,用户点一次同意,授权便往往长期保留。
作者把这种方式称为环境权限(ambient authority)。程序执行每个动作时,不必出示针对这次操作的凭据,只要当前身份具备相应权限,就可以继续。授予的是一大片活动范围,具体动作则靠人逐次点击来约束。
Agent 改变了后半部分。
它的价值恰好是连续行动,不需要人盯住每一步;它下一步做什么,又取决于当前上下文,其中可能混入刚从网页、文档读到的陌生指令。作者因此把提示注入和过度代理能力联系起来,并引用 OWASP 的 LLM 应用 Top 10 作为风险背景。
这里还有一个经典概念:困惑的代理人(confused deputy)。一个原本合法持有权限的程序,被诱导替别人办事。放在 AI 编程里,就是 Agent 明明替你工作,却可能把读到的恶意文本当成行动依据,调用你允许它使用的工具。
逐步审批可以压住这类风险,但审批越密集,委托工作的收益就越少。作者批评的重点不是人工监督毫无用处,而是权限系统如果只有全开和全关,用户就很难找到合适的委托尺度。
能力授权具体到什么程度,才有意义
能力安全模型把权限从身份上拆下来,放进不可伪造的能力令牌(capability)里。每份令牌同时限定资源和允许的操作,持有它,才具备相应行动能力。
这里的令牌不必理解成某种固定格式的字符串。关键是系统认可这份授权,而且 Agent 不能自行伪造或扩大它。
作者强调三个性质。
第一是默认拒绝。Agent 启动时没有权限,之后每项权限都必须明确授予。回答「它能干什么」,只需列出它拿到了哪些授权,而不用从整个账户能访问的资源里逐项排除。
第二是带类型的授权。权限不能只写成「允许访问磁盘」,而应细化为读取这个目录、向这个日志追加内容、向这个地址发送信息。这里的「类型」,指授权包含明确的动作语义,不只是把资源名称写得更详细。
第三是提前限定影响范围。作者假设 Agent 迟早会被误导,因此更关心误导发生以后损失能扩散多远。如果它只有一个目录的读取权限和一个文件的追加权限,攻击者能借用的能力也被限制在这里。
授权边界越具体,安全性就越少依赖对模型行为的准确预测。
这不是 AI 时代才出现的想法。原文追溯到 Dennis 和 Van Horn 在 1966 年对多道程序系统能力机制的描述。作者的判断是,过去人类使用宽泛权限很方便,缺少推动主流系统改造的动力;自主、容易受文本影响、以机器速度行动的 Agent,让这个老问题变得紧迫。
为什么只在工具列表里删掉危险选项还不够
作者最强的一项主张,是能力边界必须由操作系统层执行。
原因是框架能隐藏工具,却未必能约束整个进程。假如 Agent 框架不提供删除文件的工具,但仍允许执行任意 shell,而进程又继承了用户账户权限,那么 shell、子进程或其他路径就可能绕过框架限制。
检查必须覆盖 Agent 能走的每条执行路径。否则,工具接口看起来很克制,底下的执行环境却仍然有很大权限。
原文以 MagenticOS 说明他们选择的实现方向:每项有实际影响的操作都经过带类型的能力代理(typed capability broker),不提供原始 shell,也不提供原始 sudo。能力代理可以理解为系统中的授权关口,负责检查具体动作是否落在已授予范围内。
可枚举的授权还带来审计价值。单看执行日志,只知道 Agent 做过什么;把授权清单放在旁边,才能同时判断它当时还能做什么、有没有越过边界,以及任务是否一开始就拿到了过多权限。
不过,这一段属于架构主张和产品说明,并不是完整的验证报告。作者明确说 MagenticOS 处于 alpha,目标日期为 2026-12-07。这个日期不能当成已经交付的证明,alpha 也不能当成安全性已经得到验证的结论。
我的判断
我赞同作者把讨论重点从「是否信任 Agent」移向「给了它什么权限」。对接入文件、终端和网络的编程助手,这个问题比再补几句提示词更接近实际边界。提示词能表达意图,却不能替代系统拒绝执行越权动作。
但「只有操作系统层才能执行」需要拆开看。权限边界必须落在 Agent 无法绕过的层,这个论证成立;是否必须采用一套新的 Agent 原生操作系统,原文没有证明。容器、虚拟机、受限系统账户,以及在独立执行环境中运行工具,都是值得比较的路线。关键在于它们是否真正切断越权路径。
框架层控制也并非必然无效。如果框架背后的工具服务本身只持有有限权限,Agent 进程又没有其他执行出口,那么限制就有实际约束力。原文对「框架是假象」的批评,依赖其底层仍保留宽泛权限这个前提。
还有一个容易被忽略的区别:缩小权限能限制损失范围,不能保证范围内的每次操作都正确。
只允许追加日志,也可能写入错误内容;只允许读取目录,也不代表目录里适合放所有资料。原文没有展开授权粒度如何确定、撤销如何生效,以及能力代理自身如何受保护,也没有提供安全测试、性能开销或与现有隔离方案的对照数据。因此,它更适合被当作一套有说服力的设计原则,而不是已经证明胜出的方案。
能拿来做什么
- 给日常 AI 编程任务列一份资源与动作清单。例如前端组件修改需要读写哪些源码、是否需要安装依赖、是否真的需要网络访问,再据此检查工具的实际权限。
- 为 Node 自动化任务检查 shell 和子进程出口。如果工具声称限制了文件操作,却允许任意命令执行,就继续检查执行账户和隔离环境能访问什么。
- 把「读取目录」「修改源码」「追加日志」「向指定地址发送内容」拆开授权。按任务发放权限,避免一次同意变成后续所有任务都能使用的长期通行证。
- 审查 Agent 执行记录时,同时保留当时的授权清单。除了判断结果是否正确,也检查有没有授予任务根本不需要的能力。