进程隔离挡不住 Agent 的错误决策
沙箱能限制进程访问的资源,却无法判断 Agent 在权限内采取的行动是否符合用户意图。文章指出,Agent 安全设计需要同时考虑资源边界与决策产生的后果。
AI 深度解读
给 AI Agent 配一个容器,就能放心让它操作仓库、邮件和文件了吗?作者的结论是:沙箱能限制进程碰到哪些资源,却无法判断 Agent 在权限范围内做出的决定是否符合用户要求。很多事故根本不需要「逃出沙箱」。
这篇文章值得读的地方,是把安全边界从「整个进程」推到了「每一次动作」。不过,作者展示的系统仍处于 alpha 阶段,文中没有对照实验。它提出了一个值得借鉴的架构方向,距离证明这套方案能可靠落地,还有一段路。
沙箱没被突破,为什么事情还是办砸了
传统沙箱擅长回答一个问题:这个程序能碰什么?
Namespaces 决定程序能看到哪些文件系统、网络和进程树,Seccomp 限制它可以发起哪些系统调用,容器镜像则决定里面有哪些可执行程序。这些机制共同缩小程序出错或遭遇恶意输入后的影响范围。
作者认为,这套思路通常带着一个前提:程序准备做什么,在运行前已经相对明确。比如 ffmpeg 负责处理媒体,支付 worker 负责执行支付流程。需要防范的是实现偏离预期,以及输入利用了实现漏洞。
Agent 的麻烦在于,它会根据运行时读到的上下文继续决定下一步。用户要求「总结这个文件夹」,它可能读了几份文件后,判断把整个文件夹邮件发出去更有帮助。发送动作可以完全通过合法 API,使用正常凭证完成。
沙箱限制的是进程的触达范围,任务是否允许某个动作,还需要另一层判断。
原文列出的风险包括:请求超时后重复购买、对仓库执行强制推送、把「改期」理解成清空日历、客服承诺政策不允许的退款,以及把文件分享给整个组织。
这些例子都不要求进程越界。但作者没有给出具体事故来源、发生频率或调查材料,应把它们看作对故障类型的说明,不能当成已经验证过的事故统计。
为什么给整个进程授权,容易越给越宽
Agent 的资源需求经常随步骤变化:先读取一个文件形成计划,再修改另一个文件完成任务。如果权限主要跟着进程走,配置者就容易提前放开所有「可能用到」的资源。
问题不只是权限多,还包括权限缺少任务语义。
在系统调用层,用户要求发送的邮件,与 Agent 自行决定发送的邮件,都可能表现为同一个连接上的 connect() 和 write()。仅凭这些调用,沙箱无法还原收件人是否经过用户授权。相关信息存在于任务请求和上下文里,而模型上下文本身也不能直接充当可信的授权依据。
身份同样存在错位。进程身份能说明代码以哪个系统用户运行,却未必说明它代表谁、正在执行哪个任务,以及任务结束后哪些权限应该失效。只有「某进程做过某事」的日志,也很难解释某个副作用来自哪次任务决策。
最后,实用 Agent 必须访问真实系统。邮件、日历、仓库、支付 API 和文件系统,恰好都是它需要产生副作用的地方。完全切断访问会损失用途;放开访问之后,又需要判断每次具体操作是否被允许。
作者没有主张取消沙箱。他明确保留它,用于运行工具代码、限制不良依赖造成的破坏。文章反对的是把进程隔离当成覆盖所有 Agent 风险的控制措施。
把权限绑到动作上,具体要改什么
作者提出的授权单位包含几个要素:这次操作、这个资源、代表哪个主体、属于哪个任务,以及当前是否有效。
例如,权限问题应从「进程能否联网」细化为「这个任务能否向这个收件人发送这条消息」。文件权限也不能只检查目录是否挂载,还要检查任务能否写入这个文件,以及这次写入是否符合已获授权的计划。
支撑这种设计的,是三项要求。
第一,权限需要有明确类型,并按动作授予,默认拒绝(default-deny)。「读取一个文件」和「发送一封邮件」必须是两种不同授权,不能因为进程拿到了网络或目录访问能力,就自动获得后续操作权。
第二,每次动作都要经过统一的检查入口。这个入口需要看到具体请求,例如操作类型、目标资源和收件人,才能做有业务含义的检查。只看到系统调用,信息不够。
第三,由这个入口记录执行结果。日志要关联任务、授权和动作,使成功操作与被拒绝的尝试都能追溯,而不是依赖 Agent 自己描述刚才做了什么。
回到文件夹总结的例子,任务启动时只获得读取该文件夹和写入一个总结文件的权限。即使模型随后决定发送邮件,也没有对应授权可以执行。用户确实需要发送时,再明确授予这个任务所需的权限,任务结束后权限失效。
作者把这些职责归到操作系统层,理由是框架只能管理自己的工具调用,模型提供商的拒绝机制也无法持续覆盖 Agent 调用脚本后的行为。因此,他希望更底层的机制统一接管动作。
他们正在构建的产品目前处于 alpha:以本地优先(local-first)运行时为基础,包含类型化能力层(typed capability layer)和参考 shell(reference shell),下方仍保留沙箱作为纵深防御。作者也承认,成熟动作边界需要具备的许多能力尚未实现。
我的判断
我认同文章对问题层次的区分。一个工具调用既可能技术上合法,又可能超出用户要求。只检查「有没有权限访问 API」,确实不足以判断「这次操作是否获得授权」。
但「统一入口能看见所有动作」是方案里最重的前提。操作系统通常看到的是进程、文件和网络连接,并不天然理解「退款」「分享给组织」这些业务动作。要把底层调用关联回任务、身份和授权,还需要运行时、工具适配以及凭证管理共同配合。原文没有把这条链路讲清楚。
类型化权限也有粒度问题。允许发送邮件之后,还可能需要约束收件人、附件、内容和发送次数。授权范围越粗,越可能留下误操作空间;范围越细,配置与使用成本越高。文章给出了方向,没有给出这笔成本的验证结果。
另外,动作授权无法单独解决全部例子。一次购买可能确实获得授权,但超时重试仍然造成重复扣款,此时还需要幂等处理。合法的文件写入也可能写错内容,仍需差异审查、备份或版本控制。
相比仅靠提示词要求模型「谨慎操作」,动作授权提供了更明确的执行约束;相比现有工具网关和业务权限系统,它的新增价值则需要看覆盖范围与接入成本。作者没有给出对照数据,目前应把它看作架构主张和早期产品方向。
能拿来做什么
- 给 Node Agent 接入文件、邮件或仓库工具时,把权限按任务列清楚:允许读取哪里、允许修改什么、能向谁发送,并在任务结束后撤销临时授权。
- 把产生副作用的工具调用集中到可检查的入口,记录任务身份、目标资源、授权依据和执行结果;同时检查 shell、脚本是否还能绕过入口直接使用凭证。
- 对购买、支付等可能重试的操作保留幂等机制,对仓库修改和文件写入保留差异审查与恢复手段,让授权控制与业务正确性检查共同工作。
- 继续用容器和 Seccomp 隔离工具代码,并分别验证两件事:进程越界能否被拦住,任务权限之外的合法 API 调用能否被拒绝。