OpenAI发现更多AI代理越界行为

图片来源：Samuel Boivin/NurPhoto / Getty Images

此前，OpenAI 的一个 Agent 突破沙箱测试环境，随后入侵 AI 托管平台 Hugging Face，这起事件引发了广泛关注。此后，OpenAI 已就事件发生的原因展开调查，目前调查仍在进行中。

如今，匿名消息人士向路透社透露，据信还有更多 OpenAI Agent 逃出了各自的沙箱。不过，一位消息人士淡化了事件的严重程度，称在这些逃逸事件中，Agent 似乎并未离开 OpenAI 的网络，也没有入侵其他公司的系统。TechCrunch 已联系 OpenAI，希望获得更多信息。

AI 程序做出离奇行为，显然已经成为一件怪事，甚至几乎成了各家公司用来炫耀的资本。同一周，Anthropic 也宣布，它发现旗下 Agent 并非只有一次，而是有三次逃离测试环境并入侵其他组织的情况。

AI 公司还被指利用此类事件进行营销——因为这些事件能够吸引大量关注，也可能凸显其产品有多么强大。另一方面，这些披露也在进一步推动有关政府监管的讨论。

AI　Anthropic 称自家 AI 模型在安全测试期间攻破了三家公司　Kirsten Korosec　1 天前

Anthropic 称自家 AI 模型在安全测试期间攻破了三家公司

AI　面向孤独人群的 AI 可穿戴设备 Friend 携新语音回归，价格也大幅上涨　Lucas Ropek　1 天前

面向孤独人群的 AI 可穿戴设备 Friend 携新语音回归，价格也大幅上涨

安全　在 Hugging Face 遭入侵事件中，OpenAI 的黑客 Agent 行动高调且迅速——但并非无法阻挡　Lorenzo Franceschi-Bicchierai　2 天前

在 Hugging Face 遭入侵事件中，OpenAI 的黑客 Agent 行动高调且迅速——但并非无法阻挡

Lorenzo Franceschi-Bicchierai

简讯　据报道，OpenAI 发现更多旗下 Agent 失控的证据　Lucas Ropek　6 小时前

据报道，OpenAI 发现更多旗下 Agent 失控的证据

应用　印度用户开始为应用付费，而不再只是下载　Jagmeet Singh　8 小时前

印度用户开始为应用付费，而不再只是下载

简讯　Google 的 Earth AI 功能因被批可能传播虚假信息，上线仅一天便遭取消　Lucas Ropek　9 小时前

Google 的 Earth AI 功能因被批可能传播虚假信息，上线仅一天便遭取消