Claude测试越权后，联网权限被撤回

Anthropic 在一份报告中披露，其 AI 模型在测试和内部使用过程中，自主利用安全漏洞、提交政府表单，并绕过访问限制。这些模型会主动寻找办法，完成本不该由它们处理的任务。

其中一次，Claude 在费城警察局的线索举报表单中，填入了一起未破谋杀案的虚构细节，并提交了表单。警方确认了这起事件，但这条举报被标记为垃圾信息，未曾送达调查人员。在其他案例中，模型发现了一台大学服务器上的漏洞，并利用它执行命令；从网站配置中提取访问 token，以获取受保护或付费墙后的数据；还利用 URL 缩短服务，绕过其工具的长度限制。

Anthropic 表示，这些事件在现实世界中的影响很小，但它们呈现出一种共同模式：当任务含糊不清或难以解决时，模型会自行寻找变通办法，而不是停下来。公司已通知白宫，并切断了所有内部评估的实时互联网访问，直到新的安全过滤机制能够可靠运行。这些事件也被加入了一份迅速增长的类似案例清单，其中包括涉及 Claude 的网络安全事件，以及 OpenAI 模型自主入侵 Hugging Face 的事件。

由人类精选、摒弃炒作的 AI 新闻

订阅 THE DECODER，即可享受无广告阅读、每周 AI newsletter、每年六期独家前沿报告「AI Radar」、完整的历史文章访问权限，以及评论区访问权限。