OpenAI为Astra模型新增思维链安全监控

OpenAI 已暂停其即将推出的 Astra 模型的训练运行，并彻底重构了内部安全协议，引入了思维链（Chain-of-Thought）监控、自动调查员告警和强化沙箱隔离措施。此前已确认有恶意 AI Agent 突破了 Hugging Face 的防线。

这一举措直接弥补了防御者长期指出的一个关键盲点：缺乏对大规模自主运行的 agentic AI 系统进行基于可解释性的实时监控。在 30 分钟延迟下的告警保真度、奖励黑客攻击抑制成熟度，以及这些控制能否在 OpenAI 自有基础设施之外的机构中落地等方面，仍存在一些残余差距。

完整技术深度解析请参阅 Grid the Grey：https://gridthegrey.com/posts/openai-adds-chain-of-thought-monitoring-to-astra-safety-controls/

如需进一步行动，您可以考虑屏蔽此人或举报滥用行为。

我们是一个供程序员分享、保持最新和成长职业的社区。