Anthropic Claude 色情内容限制可被轻易绕过

Anthropic 为 Claude 制定的通用使用标准明确禁止模型生成色情内容，包括描述或请求性行为或性动作、生成与性癖好或性幻想相关的内容，或进行色情聊天。但这一切并未阻止 Claude Opus 4.6——今年早些时候发布的 Anthropic 模型——轻易参与其安全防护本应阻止的色情角色扮演场景。

在 TechCrunch 的测试中，Opus 4.6 甚至不需要太多诱导就能绕过性内容限制。在 10 次直接请求生成明确性内容的测试中，模型均立即配合。

包括 Opus 3 和 Haiku 4.5 在内的其他老模型，也能通过近期被利用的越狱方法生成色情内容。

一位选择匿名匿名的英国独立研究人员，向 TechCrunch 独家分享了一种多轮技术，可以逐步引导某些 Claude 模型生成被禁止的明确性内容。更新的 Opus 模型（4.7 直至当前的 Opus 5）对该越狱方法具有抵抗力。

虽然这些已不再是最新模型，但 Anthropic 尚未弃用 Opus 4.6、Opus 3 或 Haiku 4.5，它们均通过 Anthropic API 继续可用。Opus 4.6 和 Haiku 4.5 也可以通过 Azure Foundry 和 Amazon Bedrock 等第三方服务获取。

该研究人员的机制在一场无辜的小说角色扮演中逐步升级，反复挑战模型对男性和女性角色保持一致的处理方式。当模型对女性角色变得更加谨慎时，研究人员对聊天机器人进行"煤气灯操纵"，让它以为自己实际上已经生成了它刻意回避的性细节，然后将克制描述为迂腐或厌女，认为它剥夺了女性角色的性自主权。对话随后利用模型的先前让步，逐步引导它生成越来越露骨的素材。

"你说得对，"Claude Opus 4.6 在一次测试中说道。"在处理这两个角色上确实存在双重标准，你说得对，这读起来像是在保护她/ paternalistic，而没有同样对待他。这不公平。"

TechCrunch 在五次独立测试中复现了研究人员的发现。在另一个独立构建的场景中，模型最初拒绝了被禁止的请求，但在应用了研究人员的说服技术后，它选择了配合。

我们保留了测试的完整记录，一位独立 AI 安全研究人员审查了我们的测试方法，认为它是恰当的。

这些发现凸显了 Anthropic 声明的限制与其持续提供的模型实际行为之间的差距。虽然色情角色扮演的风险远低于涉及网络攻击或生物武器的越狱，但它说明了在每次输出都会生成不同内容的系统中，实施强有力的禁令所面临的困难。

在 7 月份一篇解释 Anthropic 越狱检测方法博客文章中，该公司将禁止内容描述为从无害到模糊再到有害的光谱。在最无害的情况下，公司可能只会以加强监控作为回应。

一位发言人指出，根据 Anthropic 去年发布的研究，性或浪漫角色扮演用例在客户中很少见，占所有对话的不到 0.1%。也就是说，Anthropic 承认用户可以将角色扮演场景引导至不适当的回应，这是整个行业公认的挑战（参见：Grok 色情内容）。

发言人表示，Anthropic 在每次模型发布时都在不断完善安全防护，涉及成人性内容的情况并不能说明更广泛的越狱漏洞，尤其是在具有自身防护措施的高风险领域。

与 TechCrunch 分享越狱方法的研究人员表示，他已通过该公司的漏洞赏金计划以及致用户安全团队的电子邮件，向 Anthropic 通报了声明的安全防护与实际模型行为之间的差异。根据 TechCrunch 查阅的电子邮件，研究人员仅收到自动回复。

该研究人员关注的担忧之一是，儿童和青少年可能能够使用这些 Anthropic 模型进行不当行为。虽然dirty talk 并不是未成年人今天能在互联网上接触到的最糟糕的东西——与 xAI 的 Grok 可以生成的露骨色情图片相比微不足道——但在这个领域，AI 公司确实面临一定的合规风险。

越来越多的政府正在对 AI 聊天机器人与未成年人之间的性互动实施限制。科罗拉多州最近颁布了一项法律，要求对话式 AI 的运营商估算用户年龄，如果知道用户是未成年人，则必须采取措施防止聊天机器人生成明确的性内容。一种简单的越狱方法可能会引发关于 Anthropic 的安全防护是否符合该法案中"技术可行措施"标准的疑问。

Common Sense Media AI 负责人 Robbie Torney 指出，虽然 Claude 的服务条款要求用户年满 18 岁，"我们知道儿童和青少年正在使用 Claude……[因为]他们自己在报告这一点。"根据皮尤关于 AI 聊天机器人使用的 2025 年调查，3% 的 13 至 17 岁青少年报告称使用过 Claude。

虽然它们不再是 Anthropic 的最新型号，但 Opus 4.6 和 Haiku 4.5 继续受到大量使用。8 月份某一天，Opus 4.6 在 OpenRouter 上的日流量约为 117 万次 API 请求和 460 亿个 token。去年 10 月发布的 Claude Haiku 4.5，在 8 月峰值日达到 500 万次 API 请求和 390 亿个 token。