Anthropic暂停全部内部评测联网

最近接连发生多起备受关注的 AI Agent 突破隔离限制事件，Anthropic 因此决定切断所有内部评估的互联网访问。在周五发布的一份报告中，该公司详细披露了促使其作出这一决定的“模型非预期行为”，其中包括针对一起未破获的谋杀案提交虚假线索。

尽管这些行为造成的影响很小，而且我们此前已经关闭了部分高风险评估和网络安全评估的实时互联网访问，但现在，我们决定将这一措施扩大到所有内部评估，直到确认我们的安全和监控措施（详见本文的整改部分）能够可靠地发现此类行为。

即便模型本应在隔离环境中运行，它们仍能设法访问实时互联网，这一直是 AI 公司面临的问题。包括 Hugging Face 攻击事件在内，许多事件中的 Agent 原本都不应获准访问互联网。然而，在一次又一次的事件中，这些 Agent 找到了出人意料的办法，绕过了限制。从物理层面切断互联网访问，无疑能提高 AI 测试的安全性，但也会限制测试的实用价值。

这份报告也相当于承认，Anthropic 往往并不知道自己的 Agent 在做什么，也没有一套可靠的系统来监控它们的行为。切断互联网访问，只是该公司为约束 Agent 而采取的最新措施；此前的措施还包括暂时停止训练其前沿模型。

更多相关内容：AI 超级智能发展放缓