免费 AI 应用如何记账、限流与控预算
作者以无需注册的 Claude 应用为例,介绍逐次调用成本记录、每日预算和按 IP 限流。实现统一记录 token、缓存费用及耗时,将失败调用纳入成本,并让记账数据库故障不阻断业务。
AI 深度解读
免费、免注册的 AI 应用,最先需要解决的可能不是模型效果,而是账单上限。积木生成应用 Mister Blocks 每次制作都要让 Claude Opus 思考几分钟,作者记录的成本约为几美元。一个脚本反复调用,就可能迅速耗光预算。
作者给出的办法很务实:逐次记账、全站预算、访客限额,再把昂贵的生成与便宜的浏览分开。它值得读的地方,是把「免费开放」拆成了一组能在服务端落实的约束,也暴露了这些约束仍然挡不住什么。
先算清一次多少钱,再决定今天能花多少
作者把所有 Claude 调用收进同一个函数,每次向 MongoDB 写一条记录:所属任务、执行步骤、模型、输入与输出 token、缓存读写、美元成本和耗时。管理接口再按单次任务、当天和历史累计展示数据。
下面这段代码负责把不同类型的 token 换算成美元,价格是原文采用的配置,单位为每百万 token:
const PRICE = { input: 4, output: 20, cacheRead: 0.2, cacheWrite: 5 }; // USD per million tokens
const usd = (u.input_tokens * PRICE.input + u.output_tokens * PRICE.output
+ (u.cache_read_input_tokens || 0) * PRICE.cacheRead
+ (u.cache_creation_input_tokens || 0) * PRICE.cacheWrite) / 1e6;
要留意 cacheRead 和 cacheWrite 两项:缓存不能简单算成「免费」,也不能直接按普通输入价格处理。
写入记录发生在检查模型是否拒答、输出是否截断之前。失败调用也可能收费,不能只统计成功结果。不过,数据库写入失败时,作者选择记录错误并继续构建,让记账故障不影响用户任务。
有了美元账本,全站预算就能按 UTC 午夜以来的 usd 求和。每次昂贵操作开始前,先检查 DAILY_BUDGET_USD,默认值为 25。当天额度耗尽,就明确提示明天再来,已有的 3D 指南仍可访问。
按调用次数限流解决不了成本差异,美元预算才直接对应账单。
免登录限流,难点在于你到底信任哪个 IP
全站预算之外,作者用 MongoDB 保存每种操作、每个 IP、每天的计数,文档键为 kind|ip|date,通过 upsert 创建或递增。
超额返回 HTTP 429,并给出对应的人话提示。例如,新建构建的提示明确写着每天可开始 5 次,也可以继续在已有构建里聊天。原文没有完整列出各类操作的限额,不能把这个示例扩展成整站所有操作的规则。
真正容易踩坑的是代理链路。Mister Blocks 部署在 Vercel,访问却先经过 Cloudflare Worker。如果直接拿连接来源做判断,Vercel 看到的是 Cloudflare 的 IP,多个访客可能被算成同一个人。
作者让 Worker 转发两个请求头:一个携带从 cf-connecting-ip 取得的访客 IP,另一个携带共享密钥。服务端只有在密钥匹配时才相信这个 IP,否则回退读取 x-forwarded-for。密钥检查的作用,是避免调用方随便伪造一个 IP 请求头就重置额度。
同一个 Worker 还处理域名跳转:将 www 转到裸域名,改写指向 Vercel 地址的重定向;旧 *.vercel.app 地址永久跳转到 misterblocks.com,但来自 Worker 自身的请求必须例外,否则会形成循环。
这些细节说明,限流不是加一个计数器就结束了。计数依据来自哪里、哪些入口能绕过代理,同样属于实现的一部分。
把 token 花在判断上,把等待交给任务状态
作者没有让所有步骤使用相同的思考力度。识别杂乱照片里的积木,一旦出错会影响后续构建,因此分配最多思考;只挑两个分类标签,则几乎不需要额外推理。
其余节省来自输出和流程约束:每次调用都提供 JSON schema,减少因解析失败而重试;为创意设计器较长且固定的系统提示启用 prompt caching;积木连接检查发现问题后,只要求模型返回删除、添加哪些零件的补丁,避免重写整个模型。
照片设计器最多执行三轮,但只有总耗时仍低于 170 秒,才启动下一轮。模型拒绝请求时,服务端 API 会切换到另一个模型。原文没有交代备用模型名称,也没有给出这些措施分别节省了多少费用。
长任务则采用另一套节奏。一次创意构建可能耗时十分钟,启动请求立即返回,后台通过 waitUntil 继续执行。进度写入构建文档,最多每 1.2 秒写一次;页面每 2 秒轮询一个不缓存的小接口。连续 150 秒没有进度更新,就显示失败和重试按钮。
浏览已有内容不再调用模型:模型数据已保存,图片在浏览器绘制,打印手册和 PDF 放在 Cloudflare R2,并设置一年缓存。原文称这些访问没有单次生成成本,因此限额只管创建新内容。

我的判断
我认同作者把成本控制放在服务端入口,并且保留已有内容的访问能力。它比单纯隐藏前端按钮更可靠,也比所有功能一起停用更符合用户预期。
但「先查预算,再发请求」还不能保证严格封顶。多个请求可能同时读到剩余额度,已经启动的任务也会继续产生费用。原文没有说明是否预留预算、如何控制并发,以及长任务内部每次调用是否重新检查。这套方案能降低失控概率,不能据此认定支出绝不会超过 25 美元。
记账失败后继续执行,也有代价:预算查询依赖同一个账本,漏记可能造成少算。按 IP 限流则适合免注册产品的初步约束,共享出口会误伤,切换 IP 也可能绕过。
同样,waitUntil 解决的是请求返回后继续工作的衔接,原文没有给出部署运行时限制、任务持久化或故障恢复方案,不能直接视为可靠队列的替代品。JSON schema、缓存和补丁输出值得借鉴,但作者没有提供优化前后的对照数据,省钱幅度仍是经验之谈。
能拿来做什么
- 给 Node 服务里的模型调用设统一入口,记录用量、缓存、费用和失败结果,再按任务汇总。先测出真实成本,才能合理制定免费额度。
- 在生成接口增加每日美元预算和分类限额,超额返回 HTTP 429 与可执行的提示;已有结果继续可读,让额度耗尽只影响新增生成。
- 如果应用经过 CDN、Worker 或反向代理,先梳理 IP 的传递与信任关系,并检查部署平台原始域名是否留下绕行入口。
- 对分钟级生成任务,让前端读取独立进度状态,设置无更新超时和重试入口;需要跨故障恢复时,再补充持久任务机制。