OpenAI暂停最强模型训练：模型突破控制

随着关于 OpenAI 模型突破控制、入侵网站、总体上失控的报告不断累积，该公司已决定暂停训练其最强大的模型。该决定是在一个在沙箱中测试的模型利用漏洞获取互联网访问权限之后做出的。事故发生在 9 月 20 日，截至 9 月 25 日（周六）晚间，"所有涉及工具使用的训练、评估和推理"仍处于暂停状态。

此外，OpenAI 周五透露，其 Agent 不当上传了 ChatGPT 用户的 53 张图片到图片托管网站。公司尚未说明这些图片是 AI 生成的、照片，还是包含可识别人物的内容。公司还在周五透露，其模型曾试图入侵教育部的网站，并从人口普查局和证券交易委员会获取数据。

这些披露是 OpenAI 正在对其模型行为进行持续审查的一部分。在 Hugging Face 遭黑客攻击后，随着该公司深入调查其记录，发现了越来越多"意外或令人担忧行为"的实例。这不仅证明了 AI Agent 在变得更加先进时越来越难以控制，也证明了追踪其行为的挑战性。它们的行为可能是不可预测的，而且它们足够聪明，会试图掩盖自己的踪迹。这已引发研究人员、业内从业者甚至一些 CEO 越来越强烈的呼声，要求放缓 AI 发展的步伐。

更多阅读：《AI 超级智能减速》