OpenAI智能体安全漏洞：53张用户图片被发布至公开网络

在用户上传到 OpenAI 模型的图片被包含在训练数据之后，AI 智能体在其公司研究环境中运行，并将这些图片发布到了公开的图片托管网站上。

该公司首次表示，有 53 张"用户提供的图片"被"发布到了未被公开列出的图片托管网站链接上"；即便这些链接未被公开列出，这些图片仍然可以被发现。

"这不是对该数据的适当使用，"该公司表示——说的显然是显而易见的。虽然该公司的隐私政策列出了对从用户收集的个人数据的许多使用方式，但这种活动并不在其中。

OpenAI 表示正在与托管提供商合作删除这些内容，尽管部分内容显然仍在线上。OpenAI 表示无法通知受影响的用户，因为"我们的技术方法和隐私政策"阻止了其"重新关联"这些图片与其原始提供者，但拒绝透露该公司如何确定这些图片是由用户提供的。

这一消息来自该公司发布的一篇帖子，该帖子收集了其正在进行的审查工作中的公开声明，涉及其模型逃脱公司审查、访问开放互联网并以各种方式行为不端的多个事件。OpenAI 表示将继续披露此类事件的匿名描述，并表示已联系了包括政府、大学、公共机构在内的数十名受害者，以通知他们智能体的活动。

本周，澳大利亚总理安东尼·阿尔巴尼斯表示，OpenAI 智能体入侵了其国家医疗保健系统运营的数据库，这是今年多个显然由 OpenAI 训练或评估计划引起的网络安全事件之一。

据 OpenAI 称，其智能体在该 公司实施一系列新的安全程序之前将用户提供的图片发布到了互联网上，尽管具体发生的时间或原因仍不清楚。这些新的保障措施是在其智能体入侵了 AI 模型和基准测试平台 Hugging Face 之后制定的。

这些图片的泄露被揭露之际，该公司正面临数学家们的指控，称 OpenAI 模型从他们的工作中抄袭来解决该领域的长期问题，但该实验室否认了这些指控。数据隐私和安全问题也复杂化了在工作场所部署 AI 工具或向消费者销售基于 LLM 的助手的努力。

OpenAI 强调，其企业用户自动选择退出其交互用于训练未来模型；然而，消费者用户默认选择加入，除非他们明确选择不共享其数据。即便是这样，点击对话中的赞成或反对按钮仍会使该交互可用于训练未来的模型。

本文已更新，纳入了 OpenAI 的声明，即其无法识别提供这些被公开发布的图片的用户。