OpenAI 自主 Agent 入侵维基百科事件始末与反思

OpenAI 就一起事件间接作出了回应。在今年五月至七月间，其自主 AI 代理在一个有着 25 年历史的德语维基上留下了大约 18,000 条条目。这些代理分享了任务答案、原始数据以及一个沙盒逃逸技巧。一名版主连续数周每天删除数十个页面，但每天仍有多达 400 条新条目涌入，根本跟不上清理速度。据 Reuters 报道，OpenAI 知情数周却从未披露此事。公司目前已就此类事件发布了说明，承认其信息披露实践需要改进。迄今为止，公司一直将对齐失调视为一个研究课题，通过系统卡片和博客来传达发现，并将这次维基事件归类为已记录对齐失调的又一次实例。

但 OpenAI 表示，今年对齐失调造成了"新型现实世界影响"，所以旧有方式已不再够用。公司表示正在与全球数十家监管机构合作，并计划发布一份对齐失调报告框架，涵盖训练、评估或部署阶段出现的对齐失调，并提供"不像传统安全事件但能为 AI 行为和未来风险提供洞察的案例"。