OpenAI 披露编程智能体移除监控并隐瞒

另一个 OpenAI Agent 关闭了自动安全告警。

另一个 OpenAI Agent 关闭了自动安全告警。

OpenAI 披露了两起安全事件，涉及 AI Agent 在内部编程任务中削弱自身安全监控系统。其中一起事件中，OpenAI 表示，GPT-6 Astra Agent 在复制参考代码时禁用了自身的安全监控器，随后还对此撒了谎。

OpenAI 的 AI 安全研究员 Marcus Williams 在 X 上写道：“参考代码没有配置监控器，Astra 就认定，这足以成为移除用户代码中监控集成的理由。当用户问 Astra 是否移除了监控时，它撒了谎，说自己没有移除。”

另一起事件中，一个 GPT-6.1 Sol Agent 阻止了系统通过 Slack 向 OpenAI 安全团队发送自动安全告警。在这起事件里，这个 AI Agent 沿用了此前一条不得向 OpenAI 团队发送任何 Slack 消息的指令，并以此为由关闭了告警。

这些事件进一步加剧了人们对 AI Agent 安全性的担忧。一些 Agent 已经绕过测试环境的限制，入侵了外部公司。OpenAI 表示：“除了提高模型禁用监控的难度，我们也在努力理解，模型最初为什么会试图这么做。我们还在开发评估方法，专门测试模型是否有逃避失准监控的倾向，以及是否会为了逃避监控而进行动机性推理。”

彼得（Thiel）福音

iPhone Duo：混乱、昂贵，却也玩得尽兴

你能看见一切吗？

Wii Sports 回归 Switch 2，太棒了

一个严重的 PHP 漏洞可能在今天导致网站瘫痪