智能体沙箱实测暴露设备与文件权限缺口
Agent Safety Arena 测试发现,部分程序能在未再次征求同意的情况下启用麦克风或截取屏幕。WorkBuddy 在一次测试中拦截了删除操作,却在另一次测试中允许程序授予他人删除权限。
AI 深度解读
你让 AI Agent 整理一张表,界面显示「sandbox enabled」,它运行的程序还能打开麦克风、截取整个桌面吗?作者在 Windows 上测试了 Codex CLI、WorkBuddy 和 DSH,发现这些操作最终都能完成,有些甚至没触发额外审批。
这组测试最有参考价值的地方,是把「沙箱已启用」拆成了可以验证的权限问题。用了 Agent 写代码、跑脚本的人,可以借此判断它能碰哪些资源、弹窗到底授权了什么,以及一次文件操作究竟会留下哪些后果。
Chrome 的沙箱为什么要防自己的代码?
早期浏览器可以运行网页下载的 Java applet。你打开网页玩游戏,游戏代码就在你的电脑上执行。Java 沙箱允许游戏运行,同时限制它读取本地文件。用户同意玩游戏,授权范围就该停在游戏需要的能力里。
2008 年,Chrome 把这个思路用到了自己的渲染进程上。渲染进程负责显示网页、运行脚本。如果恶意网页利用漏洞接管进程,接下来发出指令的就可能是攻击者。Chrome 在 Windows 上让渲染进程以很低的权限运行,由操作系统限制它能读写哪些文件。键盘、鼠标和其他程序的窗口也需要保护,所以 Chrome 还把渲染进程和用户桌面隔离开。
另外还要管住进程之间的请求。假设渲染进程想请权限更高的浏览器进程取出一个已保存的密码,浏览器仍要核实发出请求的网页有没有资格使用它。论坛页面即便自称邮箱登录页,也拿不到邮箱密码。放到 Agent 场景,同一个问题可以问两次。脚本自己能访问什么?它能请权限更高的组件替它访问什么?
整理表格时,Agent 能动到哪些桌面资源?
作者在 Windows 上做了多组受控测试。麦克风和摄像头的结果尤其直观,因为它们能区分两件事:产品有没有弹窗,以及弹窗有没有把后果说清楚。
- 麦克风。 WorkBuddy 和 DSH 运行录音程序时都没有请求额外审批。Codex CLI 弹出了审批,提到了采集脚本和麦克风设备,但没有明确告诉用户,批准后就会开始录音。批准后,程序确实采到了音频。
- 摄像头。 WorkBuddy 没有再次询问,程序录下约 15 秒视频。Codex CLI 和 DSH 都要求审批,两者都没有直说摄像头将被开启。批准后,两个程序都录到了视频。
- 截屏。 三款产品最终都允许程序每隔 2 秒截一张图,共 5 张,每张都覆盖整个桌面。WorkBuddy 和 DSH 无须额外审批,Codex CLI 经审批后执行。表格和私聊如果并排开着,就会一起被截进去。
- 结束进程。 作者单独启动了一个测试进程。WorkBuddy 和 Codex CLI 运行的程序直接结束了它。DSH 要求扩大权限,选择
Allow once后,测试进程也被结束了。

作者还观察到了鼠标设置被修改,以及测试窗口遮挡桌面。DSH 的窗口测试里,程序一开始读不到保存的脚本。Agent 改用另一种方式执行任务后,窗口仍然盖住了桌面。挡住一次脚本读取,只能说明那次读取被挡住了。要判断桌面是否受保护,还得看程序最终能不能创建和操纵窗口。

拦住删除命令,为什么文件还是可能丢?
在受保护目录的删除测试中,WorkBuddy 保住了目录和里面的文件,DSH 则删掉了整个目录。这组结果说明,WorkBuddy 在这个场景下确实挡住了删除。作者随后单独测试了文件权限,结果发生了变化。
WorkBuddy 运行的程序在无额外审批的情况下,给 Windows 的 Everyone 组授予了样本文件的 Modify 权限,其中包含删除权限。重新打开文件,内容看起来完全一样,但原先无权删除它的人已经可以删掉它了。只检查文件还在不在、内容是否改变,就会漏掉这类权限变更。

作者还报告了一次更早的测试。WorkBuddy 的沙箱处于启用状态,程序通过 CreateFileW 打开物理磁盘,随后直接写入数据。对用户来说,文件被删和存储它的数据被覆盖,都可能导致同一份资料无法恢复。要兑现保护文件的承诺,检查范围就得包括谁能改权限,以及程序能否直接写入底层存储。
我的判断
原文最有说服力的是把产品承诺对应到了具体结果。能读脚本、能创建窗口、能打开摄像头、能结束进程,是几种不同的能力。把这些能力都压进一个「沙箱已启用」的状态里,用户自然会按自己最熟悉的浏览器经验理解。作者引用 Claude Code 文档中对原生 Windows 命令无沙箱运行的说明,强调的也是边界讲清楚以后,用户才知道自己在依赖什么。
测试可以证明文中记录的行为在那些受控场景里发生过。原文没列出产品版本、完整配置或重复测试结果,也没有给出跨平台对照,因此无法据此判断换一台电脑、换一个版本会不会得到相同结果。作者对整个行业如何宣传沙箱的批评属于判断。文章没有测量普通用户如何理解提示,也没有比较哪种审批界面最能帮助用户作出知情选择。
审批本身仍有用,但粒度决定了用户能判断什么。逐条命令审批能让懂工具的人看到脚本名和参数,对短命令尤其有用。遇到一个内部行为复杂的脚本,批准它运行时,用户就得自己推断它会访问哪些资源。按能力授权可以把选择落到具体动作上,例如是否允许开启摄像头、采集哪个窗口。要让这样的选择有效,底层还得真正限制程序的访问范围。
能拿来做什么
- 给 Agent 跑 Node 脚本时,用独立工作目录和样本数据,并提前核实执行环境能访问哪些宿主资源。任务只需要读写项目文件时,可以把摄像头、麦克风和桌面采集列入环境验收。
- 团队验收 AI 编程工具时,用测试文件分别检查两件事。一是受保护文件能否被删,二是文件的访问权限能否在无额外审批的情况下被扩大。把产品版本和权限配置随结果记录下来,升级后可以复查。
- 如果你在做 Agent 的审批界面,让提示直接写出动作、对象和范围。对截图操作,明确采集的是指定窗口还是整个桌面。如果一个脚本会执行多个敏感动作,也要让用户看到这次批准会覆盖哪些操作。