8.0
热点
AI SCORE
编程提效2026-08-18 05:23
PromptShrink:生产级Prompt压缩工具,省60%Token
dev.to · AI#Prompt优化#Token节省#开源
Editor brief · 编辑速览
开源prompt预处理器,通过移除注释、空格等冗余内容减少LLM API调用Token消耗,支持代码仓库分析,估算节省金额。
如果你使用 LLM API(OpenAI、Anthropic、Gemini),你一定明白这个痛点:每次调用都要花钱,而很大一部分成本纯粹是浪费——冗长的提示词、未做过滤直接粘贴的代码、模型根本不需要理解的重复上下文。
所以我做了 PromptShrink:一个提示词预处理器,在请求到达 API 之前就剔除冗余内容,同时不丢失模型理解任务真正需要的信息。
每次你向 LLM 提交一段代码或一条长提示词时,都是按 token 付费,而非按字符。注释、空格、面向人类阅读的格式——这些全是模型完成工作根本不需要的无效开销。以规模来算(每月成千上万次调用),这笔账单是实打实的。
promptshrink repo --path ./src --save-to-file context.txt
promptshrink calc --calls 100000 --tokens 800 --model gpt-4o
在某个场景下运行 calc([在此填入你的真实数字,例如"每月 10 万次调用,使用 gpt-4o" ]),预估节省金额为[每月 X 美元]——而这仅仅是在请求到达模型之前剔除不必要的部分。
该项目已开源,提供 CLI、FastAPI 后端和 Python SDK。如果你在生产环境中运行 LLM 并且想停止为零价值的 token 买单,可以来看看:
🔗 github.com/HeloisaPeGarcia/PromptShrink
非常欢迎反馈和 PR——这是我的第一个类似的开源项目,所以每一份贡献都能让它变得更好。