微软推出可在低置信度时弃权的决策模型
Microsoft-Decision-1.1 已在 Foundry、OpenRouter 和 Vercel 上线,支持图像输入,可在预设选项中完成路由、分类和流程控制,并在置信度不足时弃权或转人工。Foundry 全球标准版每百万输入 token 收费 0.042 美元,输出免费。
AI 深度解读
微软在 11 月 17 日推出了 Microsoft-Decision-1.1。它面向企业软件里反复出现的选择题,比如把请求交给哪个模型、把工单分到哪个队列,以及什么时候该交给人工。开发者先规定可选动作,模型再根据输入做判断,并给出置信度。
它在一项决策基准上超过了 GPT-6 Luna(Decisions)和 Google Gemini Decision 1,在微软自己的 Copilot 路由场景里也跑出了速度和成本优势。对做 AI 应用的程序员来说,这组数据最有参考价值的地方,是判断哪些环节可以从主模型里拆出来单独做。
先规定能做什么,再让模型选
Microsoft-Decision-1.1 可以用在路由、分类、优先级排序、内容核验和工作流控制上。以客服分流为例,应用可以预先定义几个处理队列,让模型根据工单内容选一个。遇到信息不足的工单,模型可以弃权或提示人工介入。它还支持照片、截图等图像输入,分流时可以把用户提供的截图纳入判断。
模型会给出经过校准的置信度分数。校准的目标是让分数和实际正确率更接近,这样应用才有依据决定哪些结果可以自动处理。实际执行仍由应用控制,允许哪些动作、何时转人工,都可以写进业务逻辑。
跑赢 GPT-6 Luna,具体赢在哪?
在 Artificial Analysis Decision Index v2.1 上,新版得了 68 分,比上代高 6 分,排名第八。它领先 Google Gemini Decision 1 和 OpenAI GPT-6 Luna(Decisions),比 Elephant 9B 和 Jev 1.14 高 2 分,比 d1.2 低 1 分。这是决策基准上的结果,能用来给同类任务选候选模型。
微软还称,新版的智能水平和校准能力都有提升,速度较 Microsoft-Decision-1 提升超过两倍。另一组数字来自 Copilot 的实际请求路由。按微软披露的结果,模型判断准确率与大型语言模型相当,速度快 2.2 倍、成本低 4.4 倍。报道没有交代对照模型、请求分布和延迟统计口径。
高频调用的账怎么算?
模型已上线 Microsoft Foundry、OpenRouter 和 Vercel。Microsoft Foundry 全球标准版的输入价为每百万 token 0.042 美元(报道折合约 0.28 元人民币),输出 token 免费。美国数据区的输入价为每百万 token 0.046 美元(约 0.31 元),欧盟及亚太数据区为 0.05 美元(约 0.33 元)。
微软基于混合专家模型 Gemma 4 26B A4B 做了优化,定制推理引擎,并通过请求调度降低推理成本。模型可运行在 A100、H100/200、GB200/300 等 GPU 上。训练结合了监督微调和强化学习,使用覆盖数万种任务类型的合成和授权数据。自公开预览以来,已有超过 4,000 名客户使用。
我的判断
我认同把判断和执行拆开。路由选项固定、请求量大、错分后容易改派时,专用模型有试用价值。已有确定规则能覆盖的请求,可以直接走规则,响应快,也容易解释。剩下需要读懂自然语言或截图的请求,再拿现有通用模型和专用模型做对照。
68 分适合用来筛候选,审批自动化还得看错判的代价。微软披露的是自家路由的实测结果,报道没有提供普通团队把规则、通用模型和专用模型放在同一批业务样本上跑的对照数据。把这套方案迁到自己的业务里,能省多少是待验证的经验判断。
能拿来做什么
- 给 Node 服务的模型路由定义有限的目标和弃权选项,在服务端校验结果,再按现有权限和业务规则执行。
- 用历史工单做离线对照,把手头的关键词规则、通用模型和专用模型放在同一批样本上测,分别记录错分率、弃权率、延迟和单次成本。
- 如果工单经常附带前端报错截图,可以比较「只传工单文字」和「同时传截图」的分流结果,再决定哪些低置信度请求需要转人工。