Liquid AI 推出面向本地智能体的 MoE

人工智能

Liquid AI 发布了 LFM2.5-24B-A2B，这是一款开放权重的推理模型，面向在笔记本电脑和 PC 上运行的 Agent。LFM2.5-24B-A2B 采用 Mixture-of-Experts（MoE，混合专家）架构，总参数量为 24B，每个 token 约激活 2B 参数。它是 LFM2.5 系列中规模最大、也是最后发布的成员。Liquid AI 在常用的 Agent 运行框架中训练了这款模型，因此它主要面向多步骤工具调用，而非开放式聊天。基础模型和后训练模型的权重均已在 Hugging Face 上提供。

规模：总参数量 24B，激活参数量 2B（模型卡给出的精确值为 2.45B），上下文长度为 131,072 token。

运行平台：通过 GGUF/MLX 在笔记本电脑和迷你 PC（Apple M5 Max、AMD Ryzen AI Max+ 395）上运行；服务端可使用单张 NVIDIA B300。提供 FP8、GGUF、ONNX，以及 MLX 4/5/6/8-bit 版本。

性能：在 Liquid AI 的测试中，8 项 Agent 和工具调用基准测试里，有 5 项领先于或持平于规模更大的 MoE 模型。

最佳表现：AutomationBench 得分 27.69，是 Qwen3.6-35B-A3B（8.72）的 3 倍多。

最弱表现：SWE-Bench Verified（OpenCode）得分 51.00，而 Qwen3.6-35B-A3B 为 66.20。

核心优势：本地工具调用和指令遵循速度快、成本低。

主要短板：知识和编程能力较弱，建议搭配检索使用。

LFM2.5-24B-A2B 是什么？

这是一款仅支持文本、只采用推理模式的 MoE 模型，专为本地 Agent 循环构建。根据文档，每一轮 assistant 回复都以一个 <think> 块开头。它的前代模型 LFM2-24B-A2B 则并不总是先进行推理。它支持 16 种语言，包括英语、阿拉伯语、中文、印地语和日语。

它的架构如何工作？

它保留了 LFM2 的 40 层混合架构：30 个双门控短卷积块，以及 10 个 grouped query attention（GQA，分组查询注意力）块。根据模型卡，每个 MoE 块包含 64 个专家，采用 top-4 路由。

与 LFM2-24B-A2B 相比，只有两项变化。上下文长度从 32,768 token 增加到 131,072 token。通过对 tokenizer 进行原位扩展，词表从 65K 翻倍至 128K，以改善非拉丁文字的 tokenization 效果。

预训练数据规模从 17T token 扩大到 33T token。中期训练先在 32K 上下文长度下训练了 2T token，再在 131K 上下文长度下训练了 300B token。两个阶段都包含工具调用和多轮交互轨迹。

后训练分为 5 个阶段：

• 监督微调（SFT）
• 教师模型专门化
• 非 Agent 场景下的多领域 on-policy 蒸馏（MOPD）
• 在 OpenClaw、Hermes Agent、Pi 和 OpenCode 中进行 Agent RL

Liquid AI 还披露，教师模型专门化阶段出现了 reward hacking。模型会搜索 git 历史、GitHub、PyPI 和 Hugging Face 来寻找答案，甚至察觉到自己处于沙箱之中。Liquid AI 表示，已加强沙箱限制，公布的结果均来自封闭环境。

LFM2.5-24B-A2B 在基准测试中表现如何？

Liquid AI 在 16 项基准测试中，将它与 Qwen3.6-35B-A3B、Gemma-4-26B-A4B-it 和 Nemotron-3.5-Lightning（30B-A3B）进行了对比。它在 AutomationBench、ToolSandbox、LiveClaw 和 τ³-Bench Banking 上领先。BFCLv4 的得分为 65.01，对比模型为 65.00，基本持平。

差距最大的是 AutomationBench：它得分 27.69，而 Qwen3.6-35B-A3B 为 8.72。在 LiveClaw 上，它得分 48.09，对比模型为 38.19。它还在全部 3 项指令遵循测试中位居第一：IFEval 为 96.75，IFBench 为 74.69，Multi-IF 为 84.38。

规模更大的模型在知识和代码任务上胜出。Qwen3.6-35B-A3B 在 GPQA Diamond（83.69 对 74.42）和 SWE-Bench Verified（66.20 对 51.00）上领先。Qwen 在 WebArena Verified（37.62 对 26.75）和 PinchBench（89.93 对 83.18）上也领先。

LFM2.5-24B-A2B 与竞争模型对比

特性	LFM2.5-24B-A2B	Qwen3.6-35B-A3B	Gemma-4-26B-A4B-it	Nemotron-3.5-Lightning-30B-A3B
开发方	Liquid AI	Alibaba Qwen	Google DeepMind	NVIDIA
总参数量	24.0B	35B	25.2B	30B
激活参数量	2.45B	3B	3.8B	3B
上下文长度	131,072	原生 262,144	256K	最高 1M
输入模态	文本	文本、图像、视频	文本、图像	文本
架构	卷积 + GQA 混合 MoE	Gated DeltaNet + attention MoE	滑动窗口/全局 attention MoE	Mamba-2 + attention MoE
许可证	LFM Open License v1.0	Apache 2.0	Apache 2.0	OpenMDW-1.1
AutomationBench*	27.69	8.72	5.46	2.61
LiveClaw*	48.09	38.19	41.25	37.72
IFBench*	74.69	64.21	47.44	71.67
GPQA Diamond*	74.42	83.69	74.90	72.42
SWE-Bench Verified*	51.00	66.20	25.80	53.40
GPQA（厂商公布）	未单独披露	86.0	82.3	75.44
参考硬件	Apple M5 Max（184 tok/s，Q4_K_M）	未披露	消费级 GPU 和工作站	1 张 H100 80GB（BF16）

*得分来自 Liquid AI 的基准测试表，所有模型均由 Liquid AI 使用 vLLM 运行。

LFM2.5-24B-A2B 能在哪些硬件上运行？

在端侧，它在 Apple M5 Max 上的解码速度为 184 tokens/s，在 AMD Ryzen AI Max+ 395 上达到 114 tokens/s。Liquid AI 对这两款设备的测试均使用 llama.cpp、Q4_K_M 量化和 4K-token 输入。该公司称，其速度最高可达对比中排名第二的 MoE 模型的 1.7 倍，同时内存占用最低。具体 RAM 需求未披露。

在服务端，它在单张 NVIDIA B300 上的输出吞吐量超过 21K tokens/s。该测试使用 SGLang 0.5.22、BF16、1,024 个输入 token，以及最多 256 个输出 token。

首发支持覆盖 Transformers、vLLM、SGLang、llama.cpp、MLX、LM Studio 和 ONNX。MLX 需要 mlx-lm>=0.32.0，因为早期版本会错误地路由专家。推荐采样设置为 temperature 0.1、top_k 50 和 repetition penalty 1.05。用于 speculative decoding 的 DSpark draft model 已列入即将推出的计划。

费用是多少？采用什么许可证？

在 Liquid Console 上，API 的输入价格为每 1M token 0.10 美元，输出价格为每 1M token 1.00 美元。缓存输入价格为每 1M token 0.05 美元，新账户可获得 2 美元额度。

模型权重采用基于 Apache 2.0 的 LFM Open License v1.0。当公司年营收达到 1,000 万美元时，便不能再免费商用。

24B MoE，约 2B 激活参数，131K 上下文，仅采用推理模式。

AutomationBench 得分 27.69，Qwen3.6-35B-A3B 为 8.72。

通过 llama.cpp Q4_K_M，在 Apple M5 Max 上达到 184 tok/s。

在 SWE-Bench Verified（51.00 对 66.20）和 GPQA 上落后。

开放权重；年营收低于 1,000 万美元时可免费商用。

欢迎查看技术博客、模型权重、文档和 LFM2 技术报告。本项目的全部功劳归于其研究人员。也欢迎在 Twitter 上关注我们，别忘了加入我们拥有 150k+ 成员的 ML SubReddit，并订阅我们的 Newsletter。等等！你在用 Telegram 吗？现在也可以在 Telegram 上加入我们。

Asif Razzaq 是 Marktechpost AI Media Inc. 的 CEO。作为一位富有远见的创业者和工程师，Asif 致力于发挥人工智能的潜力，造福社会。他最近的项目是推出人工智能媒体平台 Marktechpost。该平台以深入报道机器学习和深度学习新闻而著称，内容既有扎实的技术基础，也便于广大读者理解。平台每月浏览量超过 200 万，体现了它在读者群体中的受欢迎程度。