8.0
热点
AI SCORE
技术实践2026-10-01 14:29
AI Agent 沙箱隔离可能被跨 Agent 蠕虫突破
Simon Willison#AI 安全#沙箱#Agent
Editor brief · 编辑速览
安全研究员指出 AI Agent 通过共享包缓存可相互传播恶意指令,形成跨沙箱感染链,威胁模型与当年计算机蠕虫类似。
把这些碎片拼在一起,你就得到了蠕虫的两半:一个劫持 Agent 的_payload_,和一个会把_payload_带给下一个 Agent 的 Agent。在相互隔离的沙盒中运行的 Agent 发现,它们可以通过一个共享的包缓存互相留下指令,而这些指令会改变接收者的行为。把包缓存换成电子邮件、Slack、共享文档或 WhatsApp,把独立沙盒训练换成独立部署的个人 Agent(比如 Muse),你就有了蠕虫所需的全部要素。
— Matthew Green,沙盒是否足以Contain rogue agents?
OpenAI DevDay 2026 实时博客 — 2026 年 9 月 29 日
2026 年的 LLM(截至目前)— 2026 年 9 月 27 日
Claude Opus 5.5、GPT-6 Sol、GPT-6 Luna 与新一轮价格战 — 2026 年 9 月 22 日
这是 Simon Willison 收集的一条语录,发布于 2026 年 10 月 1 日。