蚂蚁推出专用决策模型,主打低成本业务判断
LingDT-Decision-1.0 提供 4B、27B 版本,支持分类、原生多选和按序决策,已上线 DTMaaS 平台。团队称其业务测试中相比大语言模型减少超九成 Token 消耗、响应提速十倍,实际收益仍需按任务验证。
AI 深度解读
处理一条催单消息,AI 往往需要判断问题类型、工单优先级、归属部门,以及是否转人工。业务需要的是几个明确的选择,不一定需要一段解释。蚂蚁数科发布的 LingDT-Decision-1.0,就瞄准了这类高频决策任务。
据团队测试,它相比大语言模型可降低超 90% 的 Token 消耗,响应时效提升 10 倍。但这些数字来自哪些任务、用了什么对照模型,报道没有展开。理解它的价值,要先看清它解决的问题,再判断这些收益能否迁移到自己的业务。
只要一个判断,为什么要生成一段话
原文用客服催单举例:用户说「这个订单已经三天了还没发货,请尽快处理」,系统需要接连回答几个问题:
- 这是退款、催单,还是投诉?
- 工单是否需要优先处理?
- 应该派给哪个部门?
- 是否存在需要人工接管的风险?
这些任务的共同点是,输出通常有明确的候选项或评分范围。系统需要选出结果,然后继续执行流程。
原文认为,通用大语言模型通过逐 Token 生成文本来完成这类任务,链路较长,成本和稳定性也有压力。决策模型则把目标放在判断上,适合意图识别、工具选择、规则分类和结果打分。
任务只需要明确选项时,生成长文本未必划算。
不过,报道没有说明 LingDT-Decision-1.0 的内部架构、输出格式和推理机制,不能据此认定它完全不生成 Token,或不需要推理过程。
多选和按序决策,比单次分类多解决了什么
LingDT-Decision-1.0 除了支持判断、单选、分类和评级,还宣称首创支持原生多选与按序决策(DAG)。
多选容易理解:一条输入可能同时对应多个处理选项,强行归为一个类别,会丢掉业务需要的信息。
按序决策对应的则是步骤之间的依赖。DAG 是有向无环图,可以把它理解为一张带先后关系、不能循环依赖的任务图。企业流程往往不是一次分类就结束,后续判断可能需要使用前一步的结果。
这两项能力更贴近真实业务,但报道只给出了能力名称,没有展示具体输入输出,也没有解释它如何表达依赖、处理前序判断错误。因此,目前可以确认的是产品定位,尚不足以判断它能替代多少流程编排工作。「首创」也属于发布方主张,原文没有提供核验材料。
超 90% 的节省,现有证据能说明多少
报道给出了两组结果,需要分开看。
第一组是基准评测。在 23 项开源评测基准中,LingDT-Decision-1.0 的性能超过 Microsoft-Decision-1、Jev 1.13. 等决策模型,其中 27B 版本取得同参数模型中的最高准确率。但原文没有列出基准名称、逐项分数及评测配置,读者无法进一步核对。
第二组来自蚂蚁数科团队在客服、风控、金融等真实业务场景的测试。处理同样任务时,相比大语言模型,Token 消耗降低超 90%,响应时效提升 10 倍,且性能表现更优。
这里缺少几个影响结论的条件:对照的是哪个大语言模型,是否要求输出解释,任务难度如何,响应时间是否包含完整业务链路。报道也没有说明「性能更优」具体对应哪些指标。
Token 消耗下降超 90%,不能直接当成总费用下降超 90%。
模型提供 4B 和 27B 两个版本,已在蚂蚁数科 DTMaaS 平台上线,可限时免费体验。正式价格、免费期限,以及部署与接入细节,原文都没有说清楚。
我的判断
我认同它的任务划分思路:把意图判断、工具选择等固定决策单独处理,确实比让所有请求都进入通用对话流程更值得尝试。
但选型时还要加入常见替代方案。条件明确的任务可以用规则,标签稳定的任务可以考虑分类模型,也可以让通用大语言模型输出受约束的结构化结果。LingDT-Decision-1.0 是否更合适,要看它在同一批业务样本上的准确率、耗时和实际费用。
原文中的收益属于团队测试结果,比单纯的经验主张更具体;但缺少公开对照细节,还不能把它当成一般团队都能复现的结论。尤其是高风险决策,整体准确率之外,还得看关键错误会落在哪些样本上。
能拿来做什么
- 如果你正在用 Node 服务接入 AI 客服,可以先挑出意图分类、工单分派等输出明确的步骤,用历史样本比较规则、现有模型和决策模型的结果。
- 如果 AI 编程流程需要从固定工具中选择下一步,可以单独评测工具选择任务,记录选错工具的情况,再决定是否拆出专用决策环节。
- 试用 4B 或 27B 版本时,应同时记录准确率、响应耗时、Token 用量和实际费用;涉及转人工或风险判断的任务,还应单独检查漏判样本。