Drex 1.5 开源，以单次推理为选项评分

人工智能

Nace.AI 已开源 Drex 1.5，这是一款面向 Agent 和后端工作流的 9B 决策模型。Drex 1.5 不生成文本，而是读取状态和带有类型的问题，然后为每个选项返回一个概率。Nace 报告称，它在公开的 Decision Index 0.3.1 上取得了 58.08 分，是参数量低于 10B 的模型中的最高分。模型权重已发布到 Hugging Face，托管版本也已在 OpenRouter 上线。

规模：8.95B 参数（dense），bf16 权重约 18 GB。默认上下文长度为 16,384 tokens，最高支持 131,072 tokens。

运行硬件：bf16 版本可在 1 张 CUDA GPU 上运行（已在 24 GB A10G 上测试）。Q8_0 GGUF 版本约 9.5 GB，可在 Apple silicon 和 CPU 上运行。

性能：在公开的 Decision Index 0.3.1 上得分 58.08，与 Jev 1.13.0（57.96 分）的差距处于排行榜规定的并列区间内。

最佳表现：在长度为 32K 至 128K tokens 的文档上，准确率达到 93.4%。

最差表现：在 ACOS 方面级情感分析任务上，按单条评论计算的 F1 为 7.4%，而 Jev 为 29.5%。

总体结论：最大优势是开放权重，仅用 1 张 GPU 就能达到闭源模型的水平；主要短板是广泛知识和细粒度情感分析能力较弱。

最大优势：开放权重，仅用 1 张 GPU 就能达到闭源模型的水平。

主要短板：广泛知识和细粒度情感分析能力较弱。

Drex 1.5 是 Nace.AI 开发的决策模型，只需 1 次前向传播，就能为一组固定选项评分。你向它发送状态（文本或 JSON）以及带名称的问题。它支持 3 种问题类型：choice、noul（是/否）和 ordinal score。由于不采样任何 token，temperature 和 top_p 都不适用。模型只能从你提供的选项中作答。

它提供 POST /v1/systemone API，使用的请求格式与 TypeSafe 的 Jev 相同。Jev 是开创这一类别的闭源模型。Nace 表示，现有 Jev 客户端只需修改几个环境变量，就能接入 Drex。

Drex 1.5 是如何工作的？

它的骨干模型是 MiMo-V2.6-Distill-Qwen-9B，这是一个由 Qwen 3.5 9B 蒸馏而来的模型。它有 32 层，采用混合注意力：每 1 层全注意力搭配 3 层线性注意力。独立的 pointer head（head.pt）根据骨干模型的隐藏状态，为每个选项评分。

对于每个问题，模型都会对状态和该问题执行 1 次前向传播。在 llama.cpp 中，状态只编码一次，随后在多个问题之间共享。Nace 的 Drex 产品页面表示，模型使用了该指数所含 benchmark 的官方训练集进行训练，评估则仅使用留出集。

Drex 1.5 在 benchmark 上表现如何？

公开的 Decision Index 0.3.1 包含 37 项 benchmark，得分经过随机猜测基线校正。模型卡报告了以下分数：

• Bespoke Nimble 9B v3：57.19
• Cloudflare clef-flash：56.15

Drex 1.5、Jev 和 Nimble 都处于排行榜规定的 0.9 分并列区间内。在 37 项 benchmark 中，Drex 有 20 项领先 Jev。Drex 的得分来自 Nace 自行运行官方评测套件的结果。按领域划分，它在 Tools 上表现最强（75.0 分），在 Knowledge and Reasoning 上最弱（44.6 分）。Nace 的发布图表使用的是较早的 Decision Index 0.2.1，其中 Drex 得分为 58.28，Jev 为 57.91。

在 JevBench 的 231 道公开题目上，Drex 得分为 86.2%，Jev 为 87.0%。两者在困难题目上的得分均为 73.9%。在涵盖 8 款 OpenSpiel 游戏的直接对战中，Drex 对 Jev 取得了 122 胜、47 平、87 负的成绩（56.8%）。

长文档处理是它的一项明显优势：

• 8K 至 32K tokens：准确率 89.5%，耗时中位数 0.65 秒
• 32K 至 128K tokens：准确率 93.4%，耗时中位数 2.0 秒

将同一批请求截断到 8K tokens 后，两组的准确率分别降至 76.5% 和 78%。

开发者如何运行 Drex 1.5？

它提供 4 种部署方式，全部使用相同的 API：

• Python（Kev runtime）：在 CUDA GPU 上运行 inference.py 和 serve.py。
• llama.cpp：使用 Nace 的 fork，支持 bf16 或 Q8_0 格式的 GGUF，可在 CUDA、Metal 或 CPU 上运行。
• Ollama：使用 Nace 的 fork，其中新增了 decision 能力。
• 托管服务：OpenRouter 标价为每 1M 输入 tokens 0.04 美元，输出费用为 0 美元，由 DeepInfra 提供服务。Nace 也运营自己的 Console API。

Nace 在 AWS g5.2xlarge（A10G 24 GB）上测试了 bf16 和 Q8_0，两者给出了完全相同的答案。Q8_0 GGUF 在 Apple M5 Pro 上通过 Metal 和 CPU 运行时，也得到了相同的答案。

Drex Agent skill 可将模型接入 Claude Code、Codex、Cursor、OpenCode、Hermes Agent、Gemini CLI 和 GitHub Copilot。Nace 的发布文章还为云端用户提供了 25 美元的注册奖励。

Drex 1.5 与其他决策模型相比如何？

特性	Drex 1.5	Jev 1.13.0	Bespoke Nimble 9B v3
开发者	Nace.AI	TypeSafe AI	Bespoke Labs
参数量	8.95B	未披露	基于 Qwen3.5-9B 的 LoRA
权重	开放	闭源（仅提供 API）	开放（adapter）
许可证	Nace.AI Open RAIL-M	专有许可证	CC BY-NC 4.0
上下文	默认 16,384，最高 131,072	每个请求 64K，状态加上最长问题为 32K	未披露
Decision Index 0.3.1（公开）	58.08	57.96	57.19
Decision Index 0.2.1	58.28	57.91	56.88
JevBench（231 道题）	86.2%	87.0%	未披露
本地硬件	1 张 CUDA GPU（bf16），或 Apple silicon、CPU（Q8_0）	不适用	Qwen3.5-9B 基础模型加 adapter
API 价格（每 1M 输入／输出 tokens）	0.04 美元／0 美元（OpenRouter）	0.042 美元／0 美元	未披露

Decision Index 0.3.1 的数据来自 Drex 1.5 模型卡，其中 Jev 和 Nimble 的分数引用自公开排行榜。Nimble 的 0.2.1 分数来自它自己的模型卡。

有哪些局限？

Drex 1.5 是一个决策层，无法充当通用模型。它不能生成文本、代码或解释。知识密集型测试是它的弱项：在 GPQA Diamond 上，准确率为 45.4%，而 Jev 为 78.6%；在 MMLU-Pro 上，准确率为 58.7%，而 Jev 为 82.7%。

使用该指数所含 benchmark 的训练集进行训练，有助于它处理熟悉的决策类型，但在新领域中的表现可能不同。通过 Ollama 和 llama.cpp 本地部署时，需要使用 Nace 的 fork，主线版本无法直接使用。模型权重采用带有使用限制的 RAIL-M 许可证，因此商业使用前应查看相关条款。

Drex 1.5 是一款 9B 开放决策模型，只需 1 次前向传播即可为选项评分。

它在 Decision Index 0.3.1 上取得 58.08 分，与闭源的 Jev 1.13.0 并列。

在 32K 至 128K tokens 的长文档上，准确率达到 93.4%。

它可在 1 张 GPU 上运行，也可通过约 9.5 GB 的 Q8_0 GGUF 在 Mac 上运行。

弱项包括 GPQA Diamond（45.4%）和 ACOS 情感分析（7.4%）。

欢迎查看 Hugging Face 上的模型权重、GitHub 仓库和 Drex 产品页面。所有功劳归于本项目的研究者。也欢迎在 Twitter 上关注我们，别忘了加入我们拥有 150k+ 成员的 ML SubReddit，并订阅我们的 Newsletter。等等！你用 Telegram 吗？现在也可以加入我们的 Telegram 社群。

Asif Razzaq 是 Marktechpost AI Media Inc. 的 CEO。作为一位富有远见的创业者和工程师，Asif 致力于发挥人工智能的潜力，推动社会公益。他最近的项目是推出人工智能媒体平台 Marktechpost。该平台以深入报道机器学习和深度学习新闻见长，内容既有扎实的技术基础，又能让广泛读者轻松理解。平台每月浏览量超过 200 万，体现了它在读者中的受欢迎程度。