9.0
重磅
AI SCORE
技术实践2026-09-19 16:10
AI 幻觉差点让美军误登中国船只：核武情报全靠聊天生成
The Decoder#AI安全#幻觉#AI风险
Editor brief · 编辑速览
2026 年春，美军因 AI 聊天机器人虚假情报差点登上中国船只，士兵持枪、飞机已起飞，在最后时刻才被叫停。根因是 AI 产生幻觉性情报被未加核实的操作人员直接使用。
2026 年春季，美国军方险些基于一份虚假的 AI 生成情报报告登上一艘中国船只。一名特种作战司令部的分析员使用了一款聊天机器人，该机器人错误地将船上货物标记为核武器部件。CNN 独家报道，武装士兵已准备就绪，军机已升空，就在此时有人发现了这一错误。
该聊天机器人将"开源情报与政府库中的机密信号情报混合使用"并错误识别了货物；这是教科书级别的 AI 胡扯。国防部长 Pete Hegseth 正在推动军方加速采用 AI 战略，但据悉目前没有统一的 AI 生成情报验证标准。消息人士对 CNN 表示，内部系统大多是商业产品的"口红版"（即表面改造），且年轻分析员往往不加质疑地信任 AI 工具。"AI 让你能更快地得出一个坏主意，"一位消息人士如是说。
这一事件恰好符合 AI 风险倡导者的担忧——他们不太担心上帝般的 AI，反而更担心在不加甄别或心怀恶意的人手中那些粗劣的系统。