8.0
热点
AI SCORE
编程提效2026-11-18 21:00
Claude Code 按步骤路由,近半任务步骤可本地跑
dev.to · AI#Claude Code#本地模型#模型路由
Editor brief · 编辑速览
一组 RTX 4070 上的 Qwen3 测量显示,按完整请求分流时,100 个 Claude Code 请求中有 96 个需交给云端模型,留下的 4 个涉及保密要求。拆分同一批请求后,200 个步骤中有 97 个可由本地模型处理,配套参考代码采用 MIT 许可。
文章思维导图
Knowledge map
AI brief
原文暂未完整获取,基于公开信息的快读
dev.to 上一篇文章援引了一组 RTX 4070 上的 Qwen3 测量。按完整请求分流,100 个 Claude Code 请求中有 96 个需要交给云端模型,剩下 4 个因保密要求留在本地。把同一批请求拆成 200 个步骤后,有 97 个步骤可交给本地模型处理。
目前能确认什么
一句「修一下刚失败的测试」只交代了目标。要判断怎么修,还得看到报错、堆栈和相关代码。按步骤分流时,Claude Code 可以先收集这些上下文,再把输入和输出更明确的单步交给本地模型。
配套参考代码 local-step-router 采用 MIT 许可。它优先按步骤类型套用规则,规则拿不准时才让模型判断。节选还提到,团队用带标签的样本校准了判断阈值,评估集上的机密漏判从 20 次降到 2 次。
我的判断
97 个步骤能在本地处理,单凭这个数字算不出能省多少云端费用。 一个步骤可能只涉及短文本判断,另一个可能带着整段日志和多份文件。节选也没交代每步的通过标准,以及拆分后整条任务的成功率。
如果要在自己的仓库里测,我会先挑输入和输出容易核验的步骤,分别记录本地处理的通过率、失败后回退云端的次数,以及整条任务是否完成。涉及机密的步骤还要单独核对哪些内容会发往云端。漏判降到 2 次,说明这次校准减少了漏判,也说明这条判断规则仍有放行机密的可能。