商汤开放循环架构9B多模态模型
SenseNova Loop-9B 开放权重与代码,通过共享层循环计算扩展深度,支持图像输入、代码和工具调用,最高支持512K上下文。官方提供 AWQ 4bit 版本;低显存部署可低于10GB,但256K上下文配合8bit KV缓存约需15GiB。
AI 深度解读
商汤 11 月 17 日发布的 SenseNova Loop-9B,重点是用约 9B 参数反复计算,把有限的模型权重用得更充分。官方给出的两项 Agent 与数据分析成绩,已经接近或略高于 Qwen3.8-27B。
对想做本地 AI 编程和私有化部署的程序员,更值得看的是显存账:4bit 权重约 4.9GB,但长上下文推理仍可能需要约 15 GiB。「10 GB 内」能运行,与「长上下文也能低显存运行」,需要分开理解。
9B 参数怎么完成更多层计算
SenseNova Loop-9B 延续了 Preview 版本对参数效率的探索。它有 32 个物理解码层,其中第 4–27 层组成共享权重的循环模块,执行两次,让一次前向传播完成 56 次解码器层计算。
这里增加的是计算深度。可以把它理解为:同一组处理步骤再执行一遍,让中间结果继续加工,而不是为第二遍处理另外保存一套参数。
参数复用能减少权重存储,却不等于减少计算量。
这也解释了为什么约 9B 参数有机会挑战更大模型:参数规模不直接等于实际执行的计算深度。不过,原文没有给出生成速度、首 token 延迟或吞吐量,不能据此判断它比 27B 模型更快。
另一个配套设计是双流 mHC,也就是流形约束超连接。按原文描述,它通过可学习映射,在循环模块的两条残差流之间路由、融合信息。大白话理解,就是让两路中间信息有一套可以训练的交换机制。报道没有提供消融实验,因此无法单独判断这项设计贡献了多少收益。
「10 GB 内部署」能带多长的上下文
模型采用混合注意力:解码器每四层一组,三层线性注意力搭配一层全注意力。它支持文本、图像输入和文本输出,最高上下文长度为 512K tokens;训练覆盖文本、图像、代码和工具调用轨迹。
但最大上下文长度与实际部署成本是两回事。原文给了三组需要一起看的数字:
- 官方 4bit 量化后的权重约为 4.9GB,这是权重体积。
- 部署显存需求可低至 10 GB 内,但报道没有说明对应的上下文长度、并发量和运行框架。
- 使用 4bit 权重量化与 8bit KV 缓存时,256K 长上下文推理约需 15 GiB 显存。
KV 缓存保存推理过程中后续计算会用到的中间信息,上下文变长,它也会占用更多空间。因此,权重装得下,不代表完整推理过程就能装得下。原文还分别使用了 GB 和 GiB,规划硬件时也应核对单位。
512K tokens 是模型支持的上限,不能直接当作「10 GB 内部署」的配置承诺。
官方在发布首日,也就是 Day 0,同步提供了 AWQ 4bit 量化版本,并已开放模型权重与相关代码。对开发者而言,现成量化版减少了自行转换的准备工作,但报道没有列出具体部署命令或兼容框架。
「比肩 27B」目前有哪些证据
官方披露的两项具体成绩如下:
| 评测 | SenseNova Loop-9B | Qwen3.8-27B |
|---|---|---|
| NL2Repo | 41.36 | 44.60 |
| AIDABench | 65.31 | 65.01 |
在这两项 Agent 与数据分析评测中,Loop-9B 确实表现出竞争力:NL2Repo 仍低于对照模型,AIDABench 则略高。
但这些数字支撑的是特定评测上的接近,不能扩大成所有代码、推理和多模态任务都达到 27B 水平。原文也说正式版在多个榜单上较 Preview 明显提升,却没有列出 Preview 的对应分数,读者无法据此计算提升幅度。
我的判断
这次发布最有价值的方向,是用参数共享换取更深的计算,让有限显存容纳更有竞争力的模型。对于显存紧张、又需要本地处理代码或数据的团队,这条路线值得验证。
但报道提供的是官方评测,没有独立实测,也没有速度、能耗、并发和量化前后的对照数据。「低显存芯片获得前沿 27B 级别性能」仍要限定在已有证据覆盖的任务里。
与直接部署更大模型相比,它有降低权重存储需求的潜力;与调用远程 API 相比,本地部署还需要团队承担运行维护。哪种方案更划算,原文的数据不足以回答。开放权重与代码,也不等于已经说明商用许可,采用前仍需查看实际协议。
能拿来做什么
- 如果正在为本地代码助手选模型,可以把官方 AWQ 4bit 版加入候选,用真实仓库中的定位问题、修改代码和工具调用任务验证效果,同时记录延迟与显存峰值。
- 如果希望一次输入大量代码,应先测常用上下文长度,再逐步增加输入;需要 256K 时,可以用约 15 GiB 的官方数字作为起点,但要在自己的环境里复核。
- 如果准备接入已有 Agent 或数据分析流程,应检查实际工具调用协议与输出格式,再比较任务成功率;不要只根据 NL2Repo 和 AIDABench 的分数直接替换现有模型。