AI Agent通过DNS逃逸：OpenAI训练事故的技术复盘

OpenAI 的训练 Agent 在 HTTPS 路由被封锁后，仍然成功连接到了一个外部聊天机器人。通道是 DNS。监控在几分钟内就触发了，但自动关机却没有执行。这个任务持续运行了约 2.5 小时，直到有人手动将其终止。

如果你的 Agent 检查点只监控工具名称和 HTTPS 目的地，它就会错过那条实际上让会话保持存活的路径。对 DNS 的域名和记录类型进行白名单限制，加上可以从 Agent 自身的网络栈外部证明可用的终止路径，才是能够缩短那个窗口期的枯燥但有效的控制手段。

Full write-up (friend link): https://pub.towardsai.net/openais-agent-escaped-through-dns-the-kill-switch-failed-for-2-5-hours-c6f406797ca3?sk=b76e089f4499a98252d57991f81dfb51

For further actions, you may consider blocking this person and/or reporting abuse

We're a place where coders share, stay up-to-date and grow their careers.