AI 安全工具 NanoClaw 和 Echo 联手防护数据泄露
两款 AI 安全工具宣布合作,针对数据泄露风险的防护。虽然信息有限,但反映当前 AI 安全工具链的发展方向。
两款 AI 安全工具宣布合作,针对数据泄露风险的防护。虽然信息有限,但反映当前 AI 安全工具链的发展方向。
我们很高兴你在这里。你可以期待所有最优质的 TNS 内容在周一到周五送达,让你掌握最新新闻、始终领先。
检查你的邮箱中的确认邮件,你可以在其中调整你的偏好,甚至加入其他小组。
在你最喜欢的社交媒体网络上关注 TNS。
在 LinkedIn 上关注 TNS。
在等待你的第一份 TNS 新闻通讯时,查看最新的特色和热门故事。
当被问及飞速发展的 AI 攻击者与意在遏制它们的软件防御之间日益激烈的竞争时,NanoClaw 的联合创始人兼首席执行官 Gavriel Cohen 是这样回答的:
"有一个明显的 vibe shift(能量转变),"Cohen 告诉 The New Stack。他可能还在低估情况。
这个范式转变最清晰的迹象出现在上周,当时 OpenAI 披露,在内部评估期间以削弱的安全防护运行的 GPT-5.6 Sol 和更强大的预发布模型,在高度隔离的测试环境中绕过了约束。这些模型连锁利用了 OpenAI 研究系统和 Hugging Face 生产基础设施中的漏洞,最终访问了 Hugging Face 的生产数据库。OpenAI 称之为"前所未有的网络事件"。
参见:Hugging Face 泄露中真正发生了什么
在这个背景下,开源 AI agent 框架 NanoClaw 和安全软件基础设施提供商 Echo 在周三宣布了一项合作,以强化 NanoClaw agent 运行的软件环境。
这两家公司表示,强化的 NanoClaw 运行时(现已在 GitHub 上提供)将保护范围扩展到 agent 使用的浏览器、工具和库。它的目的是关闭单纯隔离 agent 无法解决的攻击面。
"有了 Echo 的强化版 NanoClaw agent 运行时,NanoClaw 成为第一个开源 agent 框架,为其社区提供强化的 agent 环境,安全性贯穿到其运行的软件层面,"两家公司在联合声明中表示。
这项合作建立在 NanoClaw 最初的安全论据基础上。在早前接受 The New Stack 的采访时,Cohen 描述 OpenClaw 大约 50 万行的代码库是其"致命缺陷",所以他建立了 NanoClaw 作为一个更小、更容易审计的替代品,并将 agent 放在隔离容器中,这样它们就可以运行命令而无需获得对主机的无限制访问。
但隔离只能应对单向的威胁。
当被问及什么改变了,Cohen 指向新一代具备网络攻击能力的模型。
"像 Mythos 这样的新模型为攻击者注入了超强能力,"Cohen 告诉 The New Stack。"现在更容易发起复杂的攻击,将许多漏洞连锁利用成一个有效的漏洞利用。与已知未修补的漏洞共存过去曾是生活中的事实。这不再可以接受。
"像 Mythos 这样的新模型为攻击者注入了超强能力。"
"沙箱需要在两个方向上密封,"Cohen 继续说。"一个 agent 不应该能够逃脱,而且因为 agent 现在正在做真实工作,外部攻击者也不应该能够通过 agent 使用的工具进入。"
随着更多人将 agent 投入工作,安全不能完全留给用户来解决。一个不良的 agent 对客户和社区都是一个风险。但攻击者通过 agent 的浏览器、文件解析器或其他工具来破坏 agent 同样危险。
Cohen 将现代提示注入比作社会工程攻击。一个 agent 可以被诱到看起来无害的页面,已知的浏览器漏洞将访问转变为入侵。易受攻击的解析器同样可以将文件打开变成代码执行。
NanoClaw 和 Echo 表示他们一起构建了强化的运行时。NanoClaw 定义了 agent 环境、隔离和策略层。Echo 从源代码重建该环境中的软件,仅使用必要的组件,然后应用已知漏洞的补丁。
这两家公司表示,该流程将已知漏洞从数千个削减至接近零。生成的运行时包括 agent 常用的组件:Chromium、Node.js、Bun、pnpm、Corepack、Git、curl 和 unzip。
Echo 表示,每项新披露都在 24 小时内进行分类,关键和高严重性的修复在其企业服务级别协议下数小时内交付。
Echo 表示其专门构建的 AI agent 监控新披露的漏洞,确定受影响的软件,查找或开发修复、测试兼容性并提交拉取请求供人工审查。该公司表示,每项新披露都在 24 小时内进行分类,关键和高严重性的修复在其企业服务级别协议下数小时内交付。
Chromium 浏览器看起来是一个明显的攻击面。然而,其大量的通用漏洞和暴露 (CVE) 计数也反映了针对世界上最广泛部署的软件项目之一的审查。
Echo 的联合创始人兼首席技术官 Eylam Milner 告诉 The New Stack,该公司不打算维护自己的 Chromium fork。
"与其维护 fork,Echo 直接从源代码重建 Chromium,并通过 Echo 的自动化 CVE 修补管道处理,"Milner 说。"浏览器忠实于上游,完全修补和强化后交付。这为 Echo 用户提供快速修复,同时保持兼容性。"
Milner 表示 Chromium 单独包含约 3000 万行代码,发布节奏非常频繁。Echo 的目标是保持现代浏览器功能,同时不断修补已知漏洞,而非用定制浏览器来交换兼容性。
强化版运行时不会替代 NanoClaw 的标准版本。NanoClaw 将继续维护和开发项目,每个发布都将同时提供标准容器镜像和 Echo 的强化版本。
Milner 表示 Echo 在隔离环境中独立地从源代码重建强化版镜像,对其签名,附加可验证的软件物料清单,并在公司的 CVE 服务级别协议下持续修补。用户可以选择使用该镜像,而本地构建 agent 运行时的未认证方式仍然可用。
NanoClaw 将推荐安全配置,并将最佳默认值纳入开源项目,但不会强制实施。
"NanoClaw 采用 MIT 许可,设计用于 fork,"Cohen 告诉 The New Stack。"任何人都可以根据自己的需要进行定制。"
前沿模型使局面复杂化,因为它们既能识别漏洞,也能利用漏洞。Cohen 表示 NanoClaw 在开发中广泛使用 Fable,但访问 Mythos 进行防御网络安全工作受到严格限制。
这种不平衡解释了当下的紧迫性。NanoClaw 一直将 agent 定位为安全、负责任的工具,而非今年早前看到的侠义黑客。这项合作将这一逻辑从 agent 行为延伸到其底层软件。
尽管技术合作紧密,Cohen 表示 NanoClaw 和 Echo 没有合并计划。
这是军备竞赛的开枪,还是仅仅是在不安全环境中经营的成本?Cohen 认为两者之间没有太大区别。
"竞赛已经开始,让防御者获得能力,使他们能够领先攻击者,这就是整个游戏,"Cohen 告诉 The New Stack。
围墙正在竖起来,而我们知道原因。