JetBrains Mellum2.1：高负载推理吞吐量接近Qwen3.5-9B两倍

IT之家 10 月 9 日消息，JetBrains 昨日（10 月 8 日）发布博文，宣布上线 Mellum2.1 模型，重点增强智能体编程能力。该模型延续 Mellum2 的 12B 混合专家架构，拥有 2.5B 活跃参数，并继续采用 Apache 2.0 许可证发布。

Mellum2.1 主要升级预训练后的强化学习阶段，从短期收尾环节扩展为训练主体，并在数学、算法竞赛、科学、工具使用和软件工程等任务中补充训练数据。

JetBrains 为该模型搭建了内部强化学习环境基础设施，在训练期间启动数百万个沙盒，覆盖数千个环境。此外在训练前，团队还筛选了开放数据集，剔除测试缺陷、不可验证答案及难度失当的任务。

升级后，Mellum2.1 可探索代码库、编辑文件并检查自身修改。JetBrains 称，其最大改进出现在智能体编程领域，模型可识别失败测试的根因，起草修复方案并验证结果。

在性能方面，Mellum2.1 与 Mellum2 架构一致，速度保持不变，多 Token 预测（MTP）进一步提升响应速度。单请求场景下，MTP 使其速度提高约 1.6 倍。

JetBrains 将 Mellum2.1 与 Mellum2、Qwen3.5-9B 及 Gemma 4 E4B 在相同评估设置下比较。结果显示，高负载时 Mellum2.1 的推理吞吐 Token 数量接近 Qwen3.5-9B 的两倍，并在编程、算法竞赛、数学、工具调用和通用知识等维度均有提升。IT之家附上相关截图如下：

Mellum2.1 现已登陆 Hugging Face，支持本地或自有基础设施部署，让企业可将代码和数据保留在自身环境中。官方后续还将会推出面向 llama.cpp、Ollama 和 LM Studio 的 GGUF 版本，以及 vLLM 的 MTP 推测解码组件。

软媒旗下网站： IT之家 最会买 - 返利返现优惠券 iPhone之家 Win7之家 Win10之家 Win11之家

软媒旗下软件： 软媒手机APP应用 魔方 最会买 要知