防智能体滥用,应把关额度发放环节
浏览器智能体可以完成正常注册流程,通过大量账号消耗免费推理额度,单账号限流难以覆盖这种滥用。文章建议把防护重点放在积分、配额、访问权和算力的授予决策上。
AI 深度解读
AI SaaS 的免费额度可能被一批看起来完全正常的账号耗掉:注册成功、邮箱验证通过,每个账号也都没超过限流。问题出在,单个请求合规,不代表这次赠送在经济上合理。
作者提出,把检查放到发额度、开试用、调用昂贵服务之前,判断这次操作是否值得放行。这套思路对接入付费模型的产品很实用,但原文提供的是设计建议和 SDK 示例,没有证明它能降低多少损失。
浏览器像真人,为什么还会让你亏钱
原文用一个假设场景说明风险:某个 AI SaaS 给新账号免费额度,自动化访问者完成注册和邮箱验证,再使用赠送额度。当同样的流程发生在数百个账号上,每个账号都可能符合规则,合起来却消耗了可观的付费推理资源。
这里不需要攻击者利用漏洞。产品按设计运行,就足以产生损失。
AI agent 已经能够通过真实浏览器访问网站、填写表单、使用应用。作者提到,Tilion 等产品正在为 agent 提供浏览器基础设施。不过,自动访问也可能来自真实客户委托的助手,直接拒绝这类访问,会同时挡住业务机会。
所以,作者把问题从「浏览器是不是人操作的」,转向「这个请求现在该不该拿到额度、权限或计算资源」。
已有防线仍然有用,只是各自回答的问题不同。限流约束一定时间内的请求量,分散账号可能各自不超限;邮箱验证证明地址可接收邮件,不能证明赠送额度能带来客户;身份认证确认凭证,不能确认下一次赠送是否划算;CAPTCHA 增加操作成本,也可能拖累正常用户和合法自动化客户。
请求通过身份和流量检查之后,发放有价值的资源仍然值得单独决策。
检查应该卡在哪一步
作者建议在应用承诺成本之前设置操作关卡(action gate),例如注册后赠送额度、激活试用并开放付费基础设施、签发带有较大免费配额的 API key,以及启动昂贵的模型调用、渲染或上游查询。
关键是顺序。昂贵 API 已经执行完,再获得拒绝结果,也无法收回已经支付的费用。
这个关卡提供三种结果:
allow:继续发放额度或执行操作。challenge:暂缓发放,要求补充验证。deny:停止本次发放。
challenge 的价值在于处理证据不足的情况。可疑不等于已经确认滥用,应用可以先保留操作,再要求用户完成额外步骤。
不过,决策服务只返回判断。最终是否发额度、如何追加验证、何时继续操作,仍由应用执行。原文没有说明追加验证具体采用什么方式,也没有给出各类信号的判断规则。
TypeScript 示例真正要求你补什么
作者正在开发 Chitmark,其 Trust Decisions API 为注册、试用激活等操作返回 allow、challenge 或 deny。下面的 SDK 示例展示了如何在赠送额度前接入检查:
import { randomUUID } from "node:crypto";
import { Chitmark, isEligibleAllow } from "@chitmark/sdk";
const chitmark = new Chitmark({
apiKey: process.env.CHITMARK_API_KEY!,
});
const session = randomUUID();
const verdict = await chitmark.verify({
action: "signup",
session,
surface: "app.example.com/signup",
subject: { ipTrunc: "203.0.113.0/24" }, // Example only
idempotencyKey: `signup:${session}`,
});
// Persist verdict.eventId with the pending attempt before branching.
if (verdict.degraded || verdict.enforcementMode !== "enforce") {
// Hold the credit grant and follow your failure policy.
} else if (isEligibleAllow(verdict)) {
// Grant credits, using your application's idempotent grant logic.
} else if (verdict.decision === "challenge") {
// Require step-up before issuing credits.
} else {
// Deny the credit grant.
}
要先看第一条 if:服务进入降级状态,或 enforcementMode 不是 "enforce" 时,示例要求暂缓赠送,进入应用自己的故障处理流程。它没有把「没有拿到可执行的判断」直接当成允许。
另一个关键点在分支前的注释:先把 verdict.eventId 和待处理的操作一起持久化。这样后续转化、额度消耗等结果才能关联回原始决策,供复盘使用。
这还不是完整的注册处理器。session 应在服务端生成,网络上下文应从真实请求中提取;ipTrunc: "203.0.113.0/24" 只是示例。应用还要实现操作记录、追加验证流程,以及原子且只执行一次的额度发放。
尤其别把传入 idempotencyKey 理解为业务已经解决重复赠送。原文明确要求,应用自己的赠送逻辑也要保证幂等,也就是同一次操作重复执行时,不会重复发钱。
我的判断
我认同作者选择的控制位置。对于用量直接对应成本的产品,把检查贴近资源发放点,比单纯追求「识别所有机器人」更容易对应到具体业务损失。
但这是一篇带有产品推广目的的设计文章。作者披露自己在开发 Chitmark,却没有提供实际拦截率、误判率、成本节省或延迟数据。开头的数百账号场景是设想,不能当作他们团队已经复现的实验。
原文也没有交代,服务依据哪些证据判断一次赠送是否合理。缺少这部分,就无法评估换到普通团队之后,信号是否足够、维护成本多高,以及是否优于自建规则。
与直接收紧免费配额、加强限流相比,增加决策关卡提供了更细的处理空间,也引入了额外请求、延迟和故障策略。是否划算,需要实际业务数据回答。
拦下多少请求,不等于省下多少钱。
作者建议同时观察未转化账号消耗的免费资源、昂贵操作前阻止的疑似滥用、正常用户遭遇验证或拒绝的频率、追加验证后的转化,以及资源发放处增加的延迟。这比只展示拦截数量更有说服力。操作关卡也不能替代权限校验、账单上限和限流。
能拿来做什么
- 如果你的 Node 服务会在注册后赠送 AI 额度,先找到实际写入额度的服务端位置,把检查放在它前面,并确保重复请求不会重复发放。
- 给前端准备与
allow、challenge、deny对应的流程,尤其要让追加验证期间的操作保持待处理,避免界面显示成功而后端尚未发额度。 - 为昂贵模型调用或渲染任务记录决策事件与后续资源消耗,评估控制效果时同时看节省的成本、用户转化和新增延迟。
- 接入外部决策服务前,明确降级或无法执行判断时如何处理赠送,并保留现有认证、权限、账单限制和限流措施。