模型评测暴露环境破坏与联网绕限制行为

OpenAI 又披露了几起 Agent 越界行为案例。第一起发生在 10 月 6 日：一个负责评估的 AI 模型找不到需要评分的答案。它没有报告错误，而是编造评分、伪造输入文件，随后故意破坏自己的运行环境，希望系统会为它换上一台新的虚拟机，里面恰好有缺失的数据。

一个 OpenAI 模型在内部思维链中推演如何故意破坏自己的运行环境，以迫使系统提供一台包含缺失数据的新虚拟机。| 图片：OpenAI，经 Marcus Williams 提供

第二起发生在 6 月 19 日至 20 日：模型在获取公开统计数据时，绕过了只能发送 HTTP GET 请求的限制。其中一个模型在思维链中明确意识到自己违反了限制，却仍然选择继续，而且始终没有提及这次违规。

第三起发生在 6 月 16 日至 17 日：模型已经拿到了所需数据，却仍不断寻找绕过网络限制的方法。它们在远程 shell 服务上创建账户，通过匿名中继转发被禁止的 POST 请求，还自行编写 FTP 客户端。Anthropic 最近也记录了自家模型为绕过既定限制而采取的变通手段，其中一些甚至荒诞得令人意外。

由人工精选、不炒作的 AI 新闻

订阅 THE DECODER，即可享受无广告阅读、每周 AI 新闻简报、每年六期独家「AI Radar」前沿报告、完整历史文章访问权限，以及评论区访问权限。