8.0
热点
AI SCORE
编程提效2026-09-26 17:30
Together AI 发布 17 美元微调分类模型完整配方
dev.to · AI#模型微调#Together AI#Qwen
Editor brief · 编辑速览
基于 Qwen3.5 4B 的意图分类模型,仅需 17 美元、25 分钟即可完成微调部署,提供端到端训练流程与公开数据集来源。
Together AI 发布了 together/Tev1-4B-experimental,这是一款基于 Qwen3.5 4B 构建的分类模型,部署在其平台上,同时还提供了一份逐步指南,教你如何微调一个同类模型。
该模型的输入是一段状态(例如一条客户支持消息)加上一个固定的多选项列表,输出是单一标签——可以是分数、布尔值或字母选项——而不是自由文本。Together 的示例演示了如何构建一个支持意图分类器:给定一条关于重复订阅扣费的消息,模型从四个选项中正确返回了 "duplicate_charge" 的标签。
该指南详细介绍了训练流程。微调数据集包含 37,840 条样本,采样自六个公开数据源——MultiNLI、BoolQ、Banking77、AG News、SST-5,以及内部程序化策略和路由数据集——涵盖了意图分类、是/否理解、情感分析和基于规则的决策。用这个数据集对 Qwen3.5 4B 进行微调,在 Together 的微调服务上大约花费 17 美元,耗时约 25 分钟,之后模型部署到专用 HTTP 端点(示例使用单张 H100 GPU)。
Together 给出了精确的推理配置,以复现确定性输出:temperature=0,max_tokens=8,以及 enable_thinking=false,外加一条系统提示词指示模型将状态字段视为数据而非指令,并仅返回所选选项的字母。
不想自行训练模型的公司可以直接在 Together 的无服务器平台上查询 together/Tev1-4B-experimental,无需自行执行微调步骤。