Claude Code 创建 Claude.md 被禁用问题
用户遭遇 Claude Code 限制创建 Claude.md 文件的问题,涉及工具安全政策的讨论。
用户遭遇 Claude Code 限制创建 Claude.md 文件的问题,涉及工具安全政策的讨论。
API Error: 400 {
"error": {
"type": "invalid_request_error",
"message":"This organization has been disabled."
},
...
}
前一分钟,我还是每月支付 220 欧元的「Max 20x」AI「高级用户」(真有这种说法吗?)。下一分钟,我就成了一个被禁用、不再被当人看的「组织」。
和许多同行一样,我经常使用 Claude Code CLI,也一直在尝试弄清楚,在个人项目中究竟能把它用到什么程度。我放开手脚,尽情探索各种想法和编码方案——如今,我可以用极快的速度尝试并验证它们。把 Claude Code 放进 tmux 里运行,让它自己干活,我则去做别的事情。
直到某次会话中,我收到了开头那条响应。
晚期资本主义的组织们,联合起来!
我的账号被封了!没有警告,也没有任何反馈,只有那条消息,说我的请求无效,因为我是一个被禁用的组织。
我当时甚至没在做什么开创性的事情。事实上,我只是在让它调整一个用于搭建项目脚手架的工具。
没错,你没看错:项目脚手架!这大概是你能想到的最无聊的事情之一!
于是,我让 Claude 更新我的脚手架工具,在其中加入一个 CLAUDE.md 文件,预先写入一套针对某个自制框架的指令(咳咳,boreDOM,咳咳)。
在这些 LLM 工具之间,我扮演着类似「human-in-the-loop」中间件的角色。就像看着一个 Claude 实例试图对另一个自己的实例「发号施令」,结果平台的保安却把它误认为是一场暴乱。
为了方便理解,这个故事里有三个主要角色:
一个被禁用的组织(我)
整个循环是这样的:
被禁用的组织让 Claude A 更新脚手架工具,加入一个很酷的 CLAUDE.md。
被禁用的组织随后用这个工具创建了一个新项目,在项目里启动了另一个 Claude(Claude B),并让它完成一项复杂任务。
每当 Claude B 犯错时,被禁用的组织就会回到 Claude A,把错误粘贴过去,然后说类似这样的话:「嘿,Claude B 犯了这个错误。」
这个循环不断重复,直到被禁用的组织被告知:它是一个被禁用的组织。
我只不过想为新项目准备一个标准的上下文文件。
有一次,Claude A 似乎被 Claude B 搞得有些恼火,开始大喊大叫!也就是从 en-GB 改用 en-US 来写:全!部!大!写!
我随后检查了那个文件,发现里面正不断塞入这类指令,要求 Claude B 去做某件事,而不是按照它原本的方式行事。
我猜,这很可能触发了那个未被禁用的组织所设置的「Prompt Injection」启发式检测规则。
真想看看那个 AI 发现自己的「system prompt」措辞被原样回送给自己时,会是什么表情。
当然,我也不知道到底是不是这样。这一切都只是我的猜测。
于是,我赶紧去翻阅他们的文档。这里到底发生了什么?
我提交了申诉。申诉入口是一个 Google Docs 表单,其中有一个文本框,我试图说服那个身处估值数万亿兆美元、未被禁用的组织里的某个 Claude C:我不仅是个人类,而且还是一个善意的人类。
我没有收到任何回复。甚至连自动回复都没有。零沟通。
于是我又联系了他们的客服。这一次,我借助另一个未被禁用的组织所提供的 LLM 写了申诉内容。
我依然没有收到任何回复。甚至连自动回复都没有。
想想人们还总抱怨公务员呢。嘿,等你不得不和这些昂贵的机器打交道时再说吧!
几天后,我收到了一封电子邮件:
Anthropic, PBC 针对发票 #... 开具的贷项通知单
是的,我收到的唯一一封电子邮件,就是一张把钱退还给我的贷项通知单。
这就像他们在说:「我们不想再和你说话了,拿着这笔封口费吧。」但各位,如果沟通永远只有单向,那就不叫对话。现在的我,不过是在对着一堵墙说话。
我甚至连一句「不是你的问题,是我们的问题」都没能听到。我只得到了一张贷项通知单。
我很庆幸,这件事发生在这个特定的、未被禁用的组织身上。因为如果碰巧发生在另一个同样提供此类工具的未被禁用组织那里……那我可能连电子邮件、照片、文档和手机操作系统都用不了了。
目前的 AI moderation 就是一个「黑箱」,它对安全性的重视已经极端到了远超准确性的程度。
如果你正在自动生成那些看起来像 system instructions 的 prompt(例如搭建上下文文件的脚手架),那你就是在雷区里行走。
我拿回了自己的 220 欧元(嘶,这种服务居然要这么多钱,感谢资本主义)。我重新定位了整个脚手架项目,并回滚了 Claude 在其中完成的全部代码。
很快,我会以全新的定位和方案重新发布 boreDOM,不再借助 Claude。我正尝试把它变成一个面向 LLM 的 JS 框架(LLM first,甚至是 LLM only;它现在已经没有 API 了),用于生成并迭代这些工具如今正在带到这个世界上的 single.html 文件。
如果你想看看 Claude A 当时让 Claude B 遵循的 CLAUDE.md,我已经提交了这个文件,可以在这里找到。
最后再强调一次:整篇文章都只是我的假设。我被封禁时,Claude 除了迭代这个文件之外,并没有在做任何其他事情。此后,我再也没有从他们那里听到关于这件事的任何消息(其实从始至终都没有)。
「你得明白,这些组织有很多用户……」