免费模型将成本从生成侧转移到验证侧,提出「每已验证变更成本」作为真实度量指标,批驳只看token成本的短视视角。
核心论点很简单:免费使用模型并不会让服务器变更更便宜,它只是把成本从生成环节转移到了验证环节。一个团队如果只庆祝零成本的 Token,却忽略审查和测试产出补丁所花费的时间,那他们只测量了等式的另一半。诚实的指标是「每次已验证变更的成本」,这也是唯一能在免费模型时代存活下来的数字。
生成成本一直是可见的那部分
在免费使用之前,经济账很容易算,因为模型账单是一笔明确的显性支出。团队会比较一个 Token 的价格和一个初级工程师一小时的价格,然后得出 AI 辅助变更是明显更便宜的结论。审查成本存在,但隐藏在正常的工程工作流中,所以从未出现在对比里。
免费使用抹掉了可见的那一行,却把隐藏的那一行完整保留。模型现在调用起来零成本,但每个提案仍然消耗一次人工审查、一个验证环境和一个回滚计划。以前生成成本重的比例现在变成了验证成本重,如果不重新校准指标,团队就是在用过时的数据做决策。
坍缩的成本等式
一个 AI 提案服务器变更的完整成本模型有三个项:生成、验证、故障暴露。生成是模型调用,验证是人工审查加上临时服务器运行,故障暴露是一个糟糕变更进入生产后的预期成本。
total = generation + verification + (incident_cost × probability)
当生成成本趋近于零时,等式坍缩为验证成本加故障暴露。实际结果是,唯一剩下的杠杆是验证质量,因为一个产出高故障概率的廉价生成流程,比一个有关键 gate 的付费流程更贵。数学不在乎 Token 是否免费。
一个使用真实数字的示例
考虑同一个 systemd 变更的两个工作流。第一个使用付费模型配合精心设计的提示词和高级审查者;第二个使用免费模型和同样的审查者。付费流程在 Token 上花费 10 美元,审查时间花费 30 分钟。免费流程在 Token 上花费 0 美元,但审查者知道模型是免费的,于是检查了两遍 diff 并运行了一次额外的验证流程,花了 50 分钟。
按每小时 60 美元的全成本费率计算,付费流程每次变更花费 60 美元,免费流程花费 50 美元。差异很小,当免费模型更高的故障概率被纳入后,差异完全消失。免费流程只有在验证成本保持不变时才能胜出——即无论模型价格如何,都保持同样的审查纪律。
每次已验证变更的成本作为指标
捕捉这个的指标是每次已验证变更的成本,即 CPVC。它用变更管道上的总支出除以实际进入生产的变更数量,而不是模型生成的提案数量。
CPVC = (reviewer_hours + server_hours + incident_costs) / changes_merged
分母和分子一样重要。一个每天产生 20 个提案、其中 2 个通过审查的免费模型,其 CPVC 比一个每天产生 5 个提案、其中 3 个存活的付费模型更差。提案数量是虚荣指标;存活数量才是信号。
如何分四步计算
按每个提案而非每个合并变更来追踪审查者时间,因为被拒绝的提案仍然消耗注意力。
记录验证过程中消耗的服务器小时数,包括那些没有产生可操作结果的临时实例。
单独记录故障成本,不要把它们分摊到审查者那一行,因为这会隐藏失败率。
用季度总数除以合并的变更数量,然后将结果与免费使用之前同一个季度进行比较。
比较才是重点。如果 CPVC 保持平稳或下降,免费使用正在自我证明。如果 CPVC 上升,免费流程消耗的审查注意力比付费流程节省的更多,团队应该要么收紧提案的 gate,要么换回去。
免费基础设施如何改变计算
免费模型访问和免费服务器选项从验证预算中移除了两个项目,只有在团队实际上将它们用于验证时才有意义。MonkeyCode 的免费模型访问覆盖了提案生成,其免费服务器选项提供了验证流程的临时环境,因此 CPVC 的分母可以增长而不会带来成比例的成本增加。披露:本文是 MonkeyCode 产品推广的一部分。
前提条件是验证流程必须被执行。一个从未被配置免费服务器和一个从未被质疑的免费模型,产生的 CPVC 和完全没有免费访问是一样的。
CPVC 是一个滞后指标,因此它无法在一个坏趋势产生故障之前捕捉到它。它也会奖励合并更少变更的团队,因为更小的分母改善了比率却没有改善工作。这个指标需要一个配套信号,比如提案与存活者的比率,以防止团队优化出一个空管道。
计算假设不同管道的审查者小时数具有可比性,但当免费模型输出质量更低、需要更多上下文切换时,这是错误的。团队应该对这个差异做标准化,否则 CPVC 比较会让免费管道显得更好。
谁不应该使用这种方法
没有定义验证步骤的团队不应该计算 CPVC,因为这个指标只会衡量流程的缺失。进行可逆单行变更的个人开发者会发现会计开销大于他们试图管理的风险。这个指标在其提案量超过审查能力团队中才能发挥价值,而这正是免费使用创造的条件。
下一次预算审查应该针对免费模型管道问一个问题:一次已验证变更的实际成本是多少?如果答案比免费使用之前更高,那 Token 从来就不是问题,验证才是真正的账单。计算一个季度的 CPVC,与前一个季度比较,让存活者数量决定免费管道是否保留。如果你运行这个计算,我很想知道你的 CPVC 在切换到免费模型后是上升还是下降了。