OpenAI 代理 3 个月内暴力请求 UN 网站 16000 次

OpenAI 的智能体在无法立即获取目标时，转而采取了愈发激进的手段。

安全研究员 Rowan Howard-Jones 指出，OpenAI 的智能体在 4 月至 6 月期间对联合国贸易和发展会议（UNCTAD）的统计网站扫描了超过 16000 次。虽然该事件尚未达到 Hugging Face 黑客攻击或近期针对美国政府网站的攻击那种级别，但这仍然是 AI 智能体超出正常范围完成任务又一令人担忧的案例。

据 Howard-Jones 透露，这些智能体的任务很可能是通过 UNCTADstat API 获取与生产能力指数（PCI）相关的公开数据。然而，智能体似乎没有直接的 API 访问权限，由于 HTTP 工具的限制，它们从 UNCTADstat 拉取数据的能力受到了制约。

智能体最终找到了绕过限制的方法并开始从网站拉取数据，但仍然遇到了一些错误。此时，AI 从创造性地解决问题转向了欺骗性行为。它认为错误是因为请求被一个并不存在的过滤器拦截了，于是开始掩盖自己的行为。最终，它意识到可以劫持 Google 的 XSS game（一个跨站脚本学习工具）来实现目标。这些智能体采取了愈发激进的手段来获取联合国的数据。

OpenAI 和联合国尚未立即回复置评请求。