混元开放百万上下文模型 Hy4 flash
腾讯开放 Hy4 flash、FP8 和 Base 三个版本供下载部署。模型总参数为 224B,每个 token 激活 12B 参数,支持多模态输入和百万 token 上下文,API 定价低于 Hy4。
AI 深度解读
腾讯混元在 11 月 18 日宣布开源 Hy4 flash,同时放出 Hy4 flash-FP8 和 Hy4 flash Base。这个模型总参数量为 224B,每个 token 激活 12B,支持多模态输入和 100 万 token 上下文。官方称,API 价格较 Hy4 大幅降低。
对想用 AI 读代码库、长文档或处理多模态输入的开发者,这次发布提供了两条试用路径,可以先调用 API,也可以下载权重自行部署。选哪条路,要分开看每次推理的开销、模型常驻的资源,以及实际任务的完成质量。
每个 token 激活 12B,自部署要按多大算?
Hy4 flash 的 224B 总参数中,包含 64B Engram 参数。每个 token 激活 12B,指的是模型处理一个 token 时,有多少参数参与计算。部署时需要另算权重如何装载、缓存怎么分配,以及长上下文会占用多少运行资源。原文没有解释 Engram 的实现,也没有给出最低显存、吞吐或延迟数据。
这次发布的三个版本分别是 Hy4 flash、Hy4 flash-FP8 和 Hy4 flash Base,可从 GitHub、Hugging Face、ModelScope 和 GitCode 获取。报道还列出了 GGUF 和开源协议入口。具体硬件与推理框架的兼容性,以及协议允许哪些用法,需要查对应版本的说明和协议正文。
100 万 token 和更低的 API 价格,能解决什么?
100 万 token 给长输入留出了更大的空间。比如让 AI 分析一次跨包改动,可以在同一请求里放进相关源文件、接口文档和测试失败日志,少做几轮手动拆分。至于模型能否在大量输入里找准约束、能否引用正确的文件,报道没有提供实测结果。多模态输入的具体类型和限制也没有展开。
Hy4 flash 已在腾讯云 TokenHub、WorkBuddy、元宝、企业微信、QQ、ima 和 Marvis 上线。官方把它定位为迄今性价比最高的 Hy 模型,但报道没有列出 API 单价、降幅或计费细则。只凭这篇消息,还算不出一次代码审查或长文档问答要花多少钱。
我的判断
长上下文最直接的价值是省掉一部分切分和拼接工作。做跨文件分析时,可以把它和日常的检索方案放在一起比:整段送入能保留更多关联信息,先检索相关文件则能控制输入量,也方便追查模型用了哪些证据。
IT之家这篇是发布消息,没有独立实测或同任务对照。「性价比最高」是官方定位。团队要判断它是否划算,可以把重试和人工复核也算进去,比较完成同一任务的成本。
能拿来做什么
- 选一个涉及多个包的前端或 Node 问题,把相关文件、接口文档和报错一起交给 Hy4 flash,要求它给出文件路径和判断依据,再与现有检索流程的结果核对。
- 走 API 时,用同一批请求记录输入和输出 token、响应时间与重试次数,拿到实际费率后再算单次任务成本。
- 准备自部署时,先核对目标推理框架对 Hy4 flash-FP8 或 GGUF 的支持,再用逐步拉长的输入观察显存占用和首 token 延迟。