8.0
热点
AI SCORE
编程提效2026-08-20 23:26
用独立 LLM 清理 Claude 5 的 token 溢出
Hacker News#Claude#开源#AI编程
Editor brief · 编辑速览
开源项目 vomit 通过一个额外的 LLM 自动检测并截断 Claude 5 的过度输出,解决大模型「话唠」问题。
Vomit 是一个将 Claude 的 token 呕吐物转换为英语的工具,它通过本地 LLM 进行管道传输。这个工具完全本地运行(无遥测)且没有任何外部依赖。
我写了一篇关于这个项目的小博客文章:https://zachahn.com/posts/1787191554
本地 LLM 只能看到 Claude 试图传达的内容(无法访问任何操作或文件),所以它会有一定程度的幻觉。
这完全是 vibe-coded,只在 Mac 上测试过。
有可能你会完全错过 Claude 的消息。你可以使用类似 AgentsView 的工具来获取原始消息,因为 Vomit 在运行时不会触碰任何内容(严格来说它会向你的 TMPDIR 写入文件)。
# Install the binary to your GOPATH
go install github.com/zachahn/vomit@latest
# Setup connection details to your LLM
vomit init
# Instructions on how to replace Claude's output via hooks
vomit scrub -claude
此外,如果你想在旁边运行 Vomit,还有一种非侵入式模式。
vomit list — 列出 Claude session 标识符
vomit tail [<session_identifier>] — 翻译指定 session 的 Claude token,或跟踪最新的 session
vomit help — 查看更多命令
这应该适用于:
任何使用 OpenAI API 的东西。
如果你还没有设置本地 LLM,我认为推荐使用 Llama.app,然后通过它下载 GPT-OSS 20B。设置好之后运行 init 子命令。
用另一个 LLM 清理 Claude 5 的 token 呕吐物。省点 token 吧,Claude 5 是没救了。