8.0
热点
AI SCORE
模型发布2026-10-10 10:25
Saluki 将 27B 智能体模型压至 7.89GB
IT之家#模型量化#智能体#本地部署
Editor brief · 编辑速览
Saluki 27B 是 Qwen3.8-27B 的 2-bit 量化调优版本,仅支持文字输入输出,大小为 7.89GB,可直接由标准 llama.cpp 加载。发布方称其擅长日常推理和工具调用,部分工具调用表现优于原模型,但数学能力较弱。
IT之家 10 月 10 日消息,人工智能实验室 Underdog AI 本月发布了 Saluki 27B 模型。该模型是 Qwen3.8-27B 的 2-bit 量化调优版本,仅保留文字 I/O 能力,文件大小仅为 7.89 GB。

Underdog 表示,Saluki 面向 Agent 应用设计,擅长日常推理和工具使用,数学表现则相对逊色。其工具选择和多工具并行调用表现,甚至优于全尺寸的 Qwen3.8-27B。
Saluki 模型使用标准的 llama.cpp 格式,可在标准的 llama.cpp 以及基于它构建的应用程序中加载,无需任何自定义编译。
广告声明:文内含有的对外跳转链接(包括但不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考。IT之家包含外链的文章均包含本声明。
软媒旗下网站:IT之家、最会买(返利返现优惠券)、iPhone之家、Win7之家、Win10之家、Win11之家。
软媒旗下软件:软媒手机APP应用、魔方、最会买、要知。