Mistral Large 4 开放权重，自托管门槛高

Mistral Large 4 开放权重后，企业能否把旗舰模型搬进自己的机房？按原文给出的配置，可以，但需要 4 至 8 张新一代 GPU，还要处理许可证、离线依赖和生产运维。下载权重只是第一步。

这篇最有用的地方，是把「能部署」与「值得部署」分开了。对需要保护内部数据的团队，自托管多了一个选择；对普通开发团队，先拿真实任务比较小模型和 API，可能更划算。

开放权重之后，硬件才是第一道门槛

据原文，Mistral AI 于 2026 年 10 月 29 日在 Hugging Face 发布 Mistral Large 4 权重。仓库为 mistralai/Mistral-Large-4-1T-A52B，另有量化的 -NVFP4 版本，均无需申请访问权限。

模型约有 1.05 万亿参数，每个 token 激活 520 亿参数。它采用混合专家架构（MoE），包含 128 个专家，每次激活 4 个，另有 1 个共享专家。计算时只调用部分专家，可以减少计算量，但部署仍要考虑整套权重的存储和加载。

520 亿激活参数，不代表只需装下一个 520 亿参数的模型。

原文给出的权重体积是：bf16 约 1.06 TB，NVFP4 约 610 GB。公开的 vLLM 部署方案使用 8 张 GPU，通过张量并行分摊模型；据 Mistral，NVFP4 版本可以运行在 4 张 Nvidia B200 或 B300 GPU 上，两者都属于 Blackwell 架构。

模型支持文本、图像输入和文本输出，宣称具备 1M-token 上下文，并可调整推理力度。不过，上下文能力不能直接当作部署容量：服务还需要为 KV cache，也就是生成过程中缓存的注意力数据，预留显存。原文没有给出并发量、吞吐或延迟测试。

产品里能免费用，卖推理服务却有另一套规则

原文称，Mistral Ecosystem Open-Weight License 是修改版 MIT 许可证，允许免费内部使用、商业使用，以及把模型嵌入产品，没有收入门槛。

但如果把模型访问能力作为服务出售，例如提供 API，或让第三方控制请求并购买推理服务，就需要与 Mistral 单独签订商业许可，关联公司也在适用范围内。

因此，许可证关注的不只是「是否收费」，还包括「卖的是什么」。把模型用于业务产品，与向客户出售模型调用能力，不能直接视为同一种情况。具体产品落在哪一侧，原文没有展开判定细节，实际使用前仍需核对许可条款。

真正上线，还要补齐哪些工作

作者列出的准备工作，比下载命令更值得保留。

先确认任务是否需要 Large 4。很多 agent 场景使用 Mistral Small、Ministral 等更小模型就能完成。然后用真实问题和预期答案，分别评估 Large 4、小模型及 API，而不是只看排行榜。

基础设施还要覆盖 GPU 容量、KV cache、自动扩缩容和监控。若部署在物理隔离网络中，每个组件都必须从本地找到所需文件。作者提到，自己修复过 mistral-common 无法加载磁盘上已有 tokenizer 的问题，修复已被 Mistral AI 合并。这是文中明确描述的亲身工程经历。

最后，自托管需要重新加入安全护栏。原先由 Mistral API 提供的保护，不会随权重一起进入自己的服务。

我的判断

我认同作者把硬件、许可和工程化放在模型排名前面。对于不能把数据发送给外部 API 的组织，这些条件直接决定项目能否落地。

但文章提供的是部署线索，不是完整的选型报告。Artificial Analysis 将它列为中国以外开发的最佳开放权重模型，这是原文转述的排名，不能直接证明它更适合你的代码任务或知识库问答。

同样，4 张 B200 或 B300 能运行 NVFP4 版本，是 Mistral 的说法。文中没有作者复现的性能数据，也没有自托管与 API 的成本对照。「不少 agent 用小模型就够」也属于经验判断，具体边界仍要靠自己的评测集确认。

开放权重提供了部署自主权，没有替团队完成成本和质量验证。

能拿来做什么

• 为日常 AI 编程或 agent 流程整理一组真实任务，保留输入和预期结果，再比较 Large 4、小模型与 API 的完成质量。
• 如果正在用 Node 服务接入模型，先明确产品是在提供业务功能，还是向第三方出售可控制请求的推理能力，再核对许可适用范围。
• 有离线部署需求时，把 tokenizer、模型文件和运行依赖一起检查，并验证断网后能否完成加载与推理。
• 做预算时同时记录权重占用、KV cache、并发需求和运维工作量；原文的 GPU 配置只能作为起点，不能直接当作生产容量结论。