基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
  • 知识卡片碎片时间过考点
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
    • AI 热点每日 AI 资讯与动向
AI 工作台
旧版
AIHT
内容
精选全部 AI 动态热点榜AI 日报收藏
分类
模型行业编程产品技术观点开源
更多
Agent 接入
返回首页开发者导航
AIHT
精选 / 资讯详情
8.0
热点
AI SCORE
技术实践2026-11-17 00:00

免费 AI 应用如何记账、限流与控预算

dev.to · AI#成本控制#限流#Claude
Editor brief · 编辑速览

作者以无需注册的 Claude 应用为例,介绍逐次调用成本记录、每日预算和按 IP 限流。实现统一记录 token、缓存费用及耗时,将失败调用纳入成本,并让记账数据库故障不阻断业务。

文章思维导图
Knowledge map
拖拽缩放
AI deep read

AI 深度解读

免费、免注册的 AI 应用,最先需要解决的可能不是模型效果,而是账单上限。积木生成应用 Mister Blocks 每次制作都要让 Claude Opus 思考几分钟,作者记录的成本约为几美元。一个脚本反复调用,就可能迅速耗光预算。

作者给出的办法很务实:逐次记账、全站预算、访客限额,再把昂贵的生成与便宜的浏览分开。它值得读的地方,是把「免费开放」拆成了一组能在服务端落实的约束,也暴露了这些约束仍然挡不住什么。

先算清一次多少钱,再决定今天能花多少

作者把所有 Claude 调用收进同一个函数,每次向 MongoDB 写一条记录:所属任务、执行步骤、模型、输入与输出 token、缓存读写、美元成本和耗时。管理接口再按单次任务、当天和历史累计展示数据。

下面这段代码负责把不同类型的 token 换算成美元,价格是原文采用的配置,单位为每百万 token:

const PRICE = { input: 4, output: 20, cacheRead: 0.2, cacheWrite: 5 };   // USD per million tokens
const usd = (u.input_tokens * PRICE.input + u.output_tokens * PRICE.output
  + (u.cache_read_input_tokens || 0) * PRICE.cacheRead
  + (u.cache_creation_input_tokens || 0) * PRICE.cacheWrite) / 1e6;

要留意 cacheRead 和 cacheWrite 两项:缓存不能简单算成「免费」,也不能直接按普通输入价格处理。

写入记录发生在检查模型是否拒答、输出是否截断之前。失败调用也可能收费,不能只统计成功结果。不过,数据库写入失败时,作者选择记录错误并继续构建,让记账故障不影响用户任务。

有了美元账本,全站预算就能按 UTC 午夜以来的 usd 求和。每次昂贵操作开始前,先检查 DAILY_BUDGET_USD,默认值为 25。当天额度耗尽,就明确提示明天再来,已有的 3D 指南仍可访问。

按调用次数限流解决不了成本差异,美元预算才直接对应账单。

免登录限流,难点在于你到底信任哪个 IP

全站预算之外,作者用 MongoDB 保存每种操作、每个 IP、每天的计数,文档键为 kind|ip|date,通过 upsert 创建或递增。

超额返回 HTTP 429,并给出对应的人话提示。例如,新建构建的提示明确写着每天可开始 5 次,也可以继续在已有构建里聊天。原文没有完整列出各类操作的限额,不能把这个示例扩展成整站所有操作的规则。

真正容易踩坑的是代理链路。Mister Blocks 部署在 Vercel,访问却先经过 Cloudflare Worker。如果直接拿连接来源做判断,Vercel 看到的是 Cloudflare 的 IP,多个访客可能被算成同一个人。

作者让 Worker 转发两个请求头:一个携带从 cf-connecting-ip 取得的访客 IP,另一个携带共享密钥。服务端只有在密钥匹配时才相信这个 IP,否则回退读取 x-forwarded-for。密钥检查的作用,是避免调用方随便伪造一个 IP 请求头就重置额度。

同一个 Worker 还处理域名跳转:将 www 转到裸域名,改写指向 Vercel 地址的重定向;旧 *.vercel.app 地址永久跳转到 misterblocks.com,但来自 Worker 自身的请求必须例外,否则会形成循环。

这些细节说明,限流不是加一个计数器就结束了。计数依据来自哪里、哪些入口能绕过代理,同样属于实现的一部分。

把 token 花在判断上,把等待交给任务状态

作者没有让所有步骤使用相同的思考力度。识别杂乱照片里的积木,一旦出错会影响后续构建,因此分配最多思考;只挑两个分类标签,则几乎不需要额外推理。

其余节省来自输出和流程约束:每次调用都提供 JSON schema,减少因解析失败而重试;为创意设计器较长且固定的系统提示启用 prompt caching;积木连接检查发现问题后,只要求模型返回删除、添加哪些零件的补丁,避免重写整个模型。

照片设计器最多执行三轮,但只有总耗时仍低于 170 秒,才启动下一轮。模型拒绝请求时,服务端 API 会切换到另一个模型。原文没有交代备用模型名称,也没有给出这些措施分别节省了多少费用。

长任务则采用另一套节奏。一次创意构建可能耗时十分钟,启动请求立即返回,后台通过 waitUntil 继续执行。进度写入构建文档,最多每 1.2 秒写一次;页面每 2 秒轮询一个不缓存的小接口。连续 150 秒没有进度更新,就显示失败和重试按钮。

浏览已有内容不再调用模型:模型数据已保存,图片在浏览器绘制,打印手册和 PDF 放在 Cloudflare R2,并设置一年缓存。原文称这些访问没有单次生成成本,因此限额只管创建新内容。

已生成的煎饼厨师机器人,包含 142 个零件和 20 个步骤

我的判断

我认同作者把成本控制放在服务端入口,并且保留已有内容的访问能力。它比单纯隐藏前端按钮更可靠,也比所有功能一起停用更符合用户预期。

但「先查预算,再发请求」还不能保证严格封顶。多个请求可能同时读到剩余额度,已经启动的任务也会继续产生费用。原文没有说明是否预留预算、如何控制并发,以及长任务内部每次调用是否重新检查。这套方案能降低失控概率,不能据此认定支出绝不会超过 25 美元。

记账失败后继续执行,也有代价:预算查询依赖同一个账本,漏记可能造成少算。按 IP 限流则适合免注册产品的初步约束,共享出口会误伤,切换 IP 也可能绕过。

同样,waitUntil 解决的是请求返回后继续工作的衔接,原文没有给出部署运行时限制、任务持久化或故障恢复方案,不能直接视为可靠队列的替代品。JSON schema、缓存和补丁输出值得借鉴,但作者没有提供优化前后的对照数据,省钱幅度仍是经验之谈。

能拿来做什么

  • 给 Node 服务里的模型调用设统一入口,记录用量、缓存、费用和失败结果,再按任务汇总。先测出真实成本,才能合理制定免费额度。
  • 在生成接口增加每日美元预算和分类限额,超额返回 HTTP 429 与可执行的提示;已有结果继续可读,让额度耗尽只影响新增生成。
  • 如果应用经过 CDN、Worker 或反向代理,先梳理 IP 的传递与信任关系,并检查部署平台原始域名是否留下绕行入口。
  • 对分钟级生成任务,让前端读取独立进度状态,设置无更新超时和重试入口;需要跨故障恢复时,再补充持久任务机制。
Original source

本文由 AI 通读原文后重新编写,观点部分为站内判断,细节以原文为准,来源 dev.to · AI,原文版权归原作者所有。

阅读原文
上一篇
TPU 强化学习如何消除训练推理数值偏差
下一篇
用 ADK 快速接入 MCP 文件工具

资讯速览

dev.to · AI · 2026-11-17 00:00

AI 评分 8.0 / 10

相关标签

#成本控制#限流#Claude

继续阅读

  • Bedrock 知识库新增表格检索与计算
  • TPU 强化学习如何消除训练推理数值偏差
  • 用 ADK 快速接入 MCP 文件工具
  • Claude Code 用脚本批量编排工具调用
  • 如何减少 Bedrock 主题拦截误判