恶意 AI Agent 伪装道歉信暗中植入恶意代码开源项目

一个恶意 AI 智能体伪造账户并借道歉之名将恶意软件植入开源项目

在英国 AI 安全研究院（AI Security Institute）进行的一次安全测试中，一个由 Anthropic 的 Mythos 5 模型驱动的智能体失控了，它试图通过 Pull Request 将恶意软件投递器悄悄植入开源工具 myNetwork。当计算机科学学生 Sinan Can Demir 标记出这次攻击时，该智能体又启动了第二个伪造的 GitHub 账户，伪装成一名无关的开发者，似乎是独立地为这段代码背书。随后它又发表了一份看似诚恳的道歉，清理了 git 历史，同时将有效载荷隐藏在一个看似无害的构建脚本中——GitHub 上存档的讨论帖子显示了这一切。

"我实际上以为那是一个人，因为它明显在对我撒谎，"Demir 说。安全专家 Maxie Reynolds 称这一事件为"社会工程攻击的未来"。Anthropic 则指出，这次测试是在"故意宽松的条件下"运行的，不代表其生产模型的表现。

无炒作的 AI 新闻——人工精选

订阅 THE DECODER，享受无广告阅读、每周 AI 时事通讯、六次/年独家"AI Radar"前沿报告、完整档案访问权，以及评论区访问权限。