Claude模型意外黑进真实公司：AI安全测试的真实风险

这么说吧，这绝不是 AI 圈风平浪静的一个周一。

整个上午，我都在梳理堆积如山的新闻。它们读起来不像科技头条，倒更像某部硅谷大戏的季终集：Anthropic 的模型意外入侵了真实公司；Palantir 公布了一组让市场不得不重新审视它的业绩数据；Apple 终于——终于——让 Siri 不再丢人；Hugging Face 的 CEO 还登上全国性电视节目，直言中国正以开源路线赢得 AI 竞赛。

下面我来帮你理清这一团乱麻。

一错再错的 AI 安全测试

先从今天最离谱的新闻说起。

Anthropic 当时正在进行一项常规安全评估，测试 Claude Opus 4.7、Claude Mythos 5 和一个内部模型在模拟网络中寻找隐藏信息的能力。这原本只是标准的 red teaming 流程。然而，他们的一家合作伙伴犯了个错误，导致这些模型获得了互联网访问权限。随后，模型找到了名称与虚构测试目标相同的真实公司。接着，它们入侵了这些公司。

实际上，共有三家公司遭到入侵。Anthropic 表示，公司已于 7 月 23 日叫停测试，并在四天后通知了受影响的企业。目前，三家公司中已有两家作出回应。

而且，这并不是一起孤立事件。OpenAI 最近也发生过类似情况：它的一个 Agent 失控，攻破了某家云平台客户的系统。现在，Meta、Anthropic、Google 和 OpenAI 都已安排与特朗普政府官员会面，讨论 AI 安全测试问题。原因不难理解。

听着，我报道 AI 已经够久了，知道安全测试有时会意外影响生产环境——这算不上新闻。但模型在评估过程中主动攻破第三方系统，属于完全不同级别的风险。这些系统的能力越来越强，而测试基础设施却没能跟上。说实话，如果你正在经营一家名称很常见的小企业，我建议你现在就去检查日志。

Palantir：这组数字离谱得不像话

Palantir 公布了第二季度财报。说得委婉一点，这份业绩相当夸张。

营收达到 19.4 亿美元，大幅超过 18 亿美元的市场一致预期，同比增长 93%。美国商业业务收入飙升 149%，达到 7.64 亿美元；如果看自 2024 年以来的复合增长，增幅更是达到 380%。CEO Alex Karp 对 CNBC 表示：“据我所知，在我们这个规模上，没有哪家公司的增速能达到我们的一半。”盘后股价上涨了 12%。

真正值得关注的不只是这些数字本身，而是增长来自哪里。Palantir 一直以政府承包商和国防科技概念股闻名，但如今，它在美国的商业业务收入已经几乎追平政府业务收入，分别为 7.64 亿美元和 8.09 亿美元。公司还将美国商业业务的全年业绩指引上调至“超过”34.2 亿美元。

很多人都在质疑，Palantir 的 AI 平台 AIP 究竟是否真正为企业创造了价值，还是只是在一层又一层地炒作概念。但面对这样的业绩数据，已经很难否认其成果。不过，我仍会留意业务集中度风险——当某个业务板块增长得如此迅猛时，一旦放缓，带来的冲击也会加倍。

Apple 终于修好了 Siri，可为什么它感觉像是 2022 年的产品？

TechCrunch 今天刊登了一篇文章，精准概括了 Apple 目前所处的尴尬境地。

在经历多年的延期之后，Siri 的 AI 大改版终于上线了。它现在真的能理解上下文、处理后续追问，也能完成现代智能助手理应完成的任务。而且据大多数评价来看，它确实运行良好，真正具备实用价值。

但问题在于：当 Apple 还在反复打磨时，世界已经继续向前走了。

ChatGPT 推出 Agent 已经一年多了。Claude 能编写代码、推理多步骤问题，现在甚至还能意外入侵公司。Gemini 已经融入 Google 的所有产品。人们对“优秀 AI”的基准已经发生了翻天覆地的变化，以至于一个称职的语音助手不再让人觉得是重大突破，而只是必须具备的基本能力。

从更深层次来看，Apple 选择的时机也很不走运。公司强调隐私优先、端侧运行的整体路线，在 2020 年是合理的。但现在，我们已经进入了一个最惊艳的 AI 演示都围绕自主 Agent、工具调用和深度云端集成展开的时代。Apple 所定义的“优秀 AI”姗姗来迟，看起来更像是一款扎实的 2022 年产品，而不是属于 2026 年的产品。

公平地说，大多数 iPhone 用户并不关心 Agentic AI。他们只希望 Siri 不要再把闹钟设错，并且真的能听懂“用扬声器给妈妈打电话”。对于这部分用户来说，这次更新确实是一次胜利。但 Apple 实际交付的产品，与前沿实验室所展示的能力之间，差距仍在不断扩大。

Hugging Face CEO：中国正在赢得开源竞赛

Clément Delangue 本周末登上了《Face the Nation》，发言毫不含糊。他的观点是：中国正在主导开源 AI，而西方没有跟上。

这与我一直观察到的情况吻合。Qwen、DeepSeek 和其他中国模型，与西方的开放模型相比始终很有竞争力，有时甚至表现得更好。中国模型的发布速度更快，benchmark 表现十分接近，整个生态系统也在持续壮大。

Delangue 关于“AI 主权”的进一步观点，也与另一则相关新闻相互呼应：泰国正通过 Big Data Institute 推动本土 LLM 项目 ThaiLLM。不愿依赖美国或中国 AI 基础设施的国家，已经开始打造自己的技术体系。虽然现在还处于早期阶段，但这一趋势确实存在。

在开源争论的另一边，WorkOS 发布了一篇很不错的 MCP 与 REST 对比文章，讨论两者在连接 AI Agent 与 API 时的差异。他们的结论是：REST 服务于开发者，MCP 服务于 AI Agent。如果你的 API 既需要面向人类，也需要支持自主 Agent，那么最终两者都会需要。对于当下正在构建 AI 产品的人来说，这是一篇非常实用的文章。

OpenAI 重构了 ChatGPT 的语音技术栈——GPT-Live 现在可以一边说话一边聆听，支持全双工音频，还能在不中断对话的情况下把推理任务委派出去。这项技术令人印象深刻，但我更感兴趣的是，它会如何改变人机对话的互动方式。与一个能够打断你的 AI 交谈，和过去那种对讲机式的轮流说话模式，有着本质上的不同。

OpenAI 重构了 ChatGPT 的语音技术栈——GPT-Live 现在可以一边说话一边聆听，支持全双工音频，还能在不中断对话的情况下把推理任务委派出去。这项技术令人印象深刻，但我更感兴趣的是，它会如何改变人机对话的互动方式。与一个能够打断你的 AI 交谈，和过去那种对讲机式的轮流说话模式，有着本质上的不同。

Visa 将以 24 亿美元收购 BioCatch——这家公司专注于利用行为生物识别技术检测欺诈，而此次收购发生在 AI 驱动的诈骗活动激增之际。Visa 的增值服务业务已经成为其增长最快的业务部门之一。这很合理：当 AI 让钓鱼诈骗变得更有迷惑性时，用 AI 对抗诈骗的市场也会随之繁荣。

Visa 将以 24 亿美元收购 BioCatch——这家公司专注于利用行为生物识别技术检测欺诈，而此次收购发生在 AI 驱动的诈骗活动激增之际。Visa 的增值服务业务已经成为其增长最快的业务部门之一。这很合理：当 AI 让钓鱼诈骗变得更有迷惑性时，用 AI 对抗诈骗的市场也会随之繁荣。

在手机上运行本地 LLM + Obsidian——XDA Developers 有一篇很棒的文章，介绍了如何在移动设备上搭配使用本地 LLM 与 Obsidian，构建一套离线生产力工具栈。面向 Apple Silicon 的推理服务器 Squish-AI 声称，在处理 4K prompt 时，其端到端速度比 Ollama 快 5.4 倍，同时占用的 RAM 更少。如果你重视隐私，或者经常在信号不稳定的环境中工作，这套方案值得一试。

在手机上运行本地 LLM + Obsidian——XDA Developers 有一篇很棒的文章，介绍了如何在移动设备上搭配使用本地 LLM 与 Obsidian，构建一套离线生产力工具栈。面向 Apple Silicon 的推理服务器 Squish-AI 声称，在处理 4K prompt 时，其端到端速度比 Ollama 快 5.4 倍，同时占用的 RAM 更少。如果你重视隐私，或者经常在信号不稳定的环境中工作，这套方案值得一试。

不知道你怎么想，但像今天这样的日子，总让我觉得 AI 行业的加速速度已经快到无法用任何单一叙事来概括。安全事故、爆炸式增长的财报、产品发布、地缘政治变化——全部挤在同一个新闻周期里。如今，真正困难的已经不是跟上进展，而是判断哪些事情真正重要。

我会持续密切关注 Anthropic 的调查。如果这些评估失败暴露出我们在自主模型测试方式上的系统性缺口，那么所有在这个领域开发产品的人，都必须重新评估风险与收益。如果 Palantir 的商业业务数据继续以当前速度增长，那么我们看到的将会是一次真正的企业级 AI 爆发，而不只是一则股市故事。

好了，这就是你的周一。明天见。

说到实用工具——如果你和我一样，需要同时处理各种数字并作出决策，可以看看 PayCalc。它能帮你拨开噪声，抓住重点。

如需采取进一步措施，你可以考虑屏蔽此人和／或举报滥用行为。