文心新预览模型开放 API,权重将开源
百度发布 ERNIE 5.5 Flash Preview,总参数 280B、激活参数 14B,支持 1M 上下文,千帆平台已提供 API,权重计划于 11 月 25 日前开源。官方称其兼顾编程能力与推理效率,同时提醒该中间版本仍可能存在训练不充分导致的能力缺陷。
AI 深度解读
百度发布了 ERNIE 5.5 Flash Preview:总参数 280B、激活参数 14B,支持 1M 上下文,API 已上线千帆平台,权重承诺在 11 月 25 日前开源。它是此前 Base 模型的首个后训练版本,也是一个仍在继续训练的中间版本。
对程序员来说,这条消息提供了一个新的试用对象,但还不足以支持选型。参数规模、上下文长度和开放计划已经明确;编程能力究竟如何、推理有多快、使用成本是多少,报道没有给出可核对的数据。
280B、14B 和 1M,分别能说明什么
ERNIE 5.5 Flash Preview 的总参数为 280B,激活参数为 14B。前者描述模型整体规模,后者描述计算时参与工作的参数规模。两者不能混为一谈,也不能仅凭 14B 就把它当作一个普通的 14B 模型来估算部署需求。
报道没有提供显存占用、部署配置或吞吐量,因此「激活参数少」还不能直接推导出「个人设备能跑」或「部署便宜」。
1M 上下文则给处理大量输入留下了空间。对于代码工作,它值得测试的方向是:把更多相关文件放进同一次请求后,模型能否正确找到依赖关系,并完成修改。
上下文能装下多少内容,与模型能有效利用多少内容,是两个问题。
原文只公布了支持的长度,没有说明长输入下的检索准确率、任务完成率和延迟。
后训练版本已经可用,但能力结论仍待验证
这次发布的是此前 Base 模型的首个后训练版本。可以把 Base 理解为基础模型,后训练则继续调整它遵循指令、完成任务的表现。不过,报道没有披露具体训练方法,也没有给出相对 Base 的提升幅度。
百度称,该模型在编程、3D 建模、知识工作和内容创作方面表现出色,同时兼顾智能水平与推理效率;在多项基准测试中取得了有竞争力的得分,并保持了极致的解码速度。
这些都是官方表述。报道没有列出基准名称、具体分数、比较对象,也没有提供解码速度数值。解码速度描述生成输出的快慢,用户实际等待时间还包括输入处理等环节,不能直接画等号。
更关键的是,官方明确称 Preview 是后训练过程中的中间版本,可能存在训练不充分导致的能力缺陷。后续正式版本会结合真实场景表现和用户反馈继续优化。
当前可用入口是千帆平台 API;权重则计划在 11 月 25 日前开源。API 已上线与权重已开放,是两个不同的交付状态。 报道尚未说明权重许可证、部署方式和硬件要求。
我的判断
这次发布有价值的地方,是把模型放到了可调用、可收集反馈的阶段,并明确交代了 Preview 的局限。对开发者而言,能够实际测试,比只看到参数和宣传描述更有用。
但「同尺寸模型中有竞争力」还缺少比较口径:按总参数比较,还是按激活参数比较?测试条件是否一致?报道没有说清。关于能力与速度的判断,目前属于官方宣称,没有作者实测,也没有对照数据支撑。
与继续使用团队现有模型相比,切换的理由应该来自具体任务的完成质量、等待时间和成本。1M 上下文可以成为测试理由,280B 不能单独成为迁移理由。权重开放后是否适合自部署,也需要等部署资料和许可证明确后再判断。
能拿来做什么
- 如果准备尝试编程能力,可以通过千帆 API,选取一个熟悉的前端或 Node 项目任务,与当前使用的模型完成同题比较,检查改动能否运行、是否遵循项目约定。
- 如果关注 1M 上下文,可以逐步增加相关文件,观察模型是否遗漏约束、混淆模块关系,同时记录整个请求的等待时间。
- 如果计划自部署,可以关注 11 月 25 日前的权重开放进展,拿到许可证、硬件要求和部署文档后再评估资源投入。
- 使用 Preview 时,应保留人工审查和现有测试流程,把发现的具体失败案例用于评估后续正式版本。