Mistral Large 4 开放权重,托管需另授权
据摘录,Mistral Large 4 已发布权重,采用约万亿总参数、每 token 激活约 520 亿参数的混合专家架构。许可允许使用、微调和销售产品,但向他人提供模型托管服务需另行取得商业授权。
AI 深度解读
Mistral Large 4 的万亿参数权重开放下载了,但下载得到,不代表所有商业用法都能直接做。原文最值得看的,是两笔账:把模型做成对外 API,可能需要另签商业许可;把权重搬到自己的服务器,也远不止算一遍显存。
对前端和全栈团队,这次发布更适合作为一个候选模型进入评测。先确认产品是否踩到许可边界,再用真实任务验证效果、输出量和成本,最后才讨论自托管。
权重能下载,为什么对外提供 API 还要另谈许可
原文称,Mistral 在 10 月 6 日推出 API 预览后,开放了 Mistral Large 4 的权重;The Next Web 于 10 月 29 日报道了这次发布。模型昵称是「Le Chonk」。
它采用混合专家架构(MoE),总参数约 1T,每个 token 激活约 52B 参数。其中,专家部分为 49B,算上嵌入和输出层后为 52B。它包含 128 个路由专家,每个 token 选择 4 个,另有 1 个共享专家。可以把它理解成:每次计算只调动部分专家,但部署时仍要容纳庞大的权重。

真正影响产品设计的是许可证。Mistral 将其称为「modified MIT license」,其中 Section 2 要求:如果你或关联公司经营 Model as a Service 业务,在将模型或衍生作品用于商业目的前,必须与 Mistral 签订单独的商业许可。
关键是客户能控制什么。按照原文引用的定义,如果第三方能够通过 API、托管端点等方式访问模型,并对输入、参数或训练数据施加实质控制,就可能属于 Model as a Service。把微调模型这样开放出去,也在衍生作品的范围内。
条款同时排除了两类情况:模型能力仅嵌入特定功能或执行框架的终端产品,以及仅转发请求给其他托管方的服务。Section 3 还豁免内部使用。
按作者的理解,团队内部部署、固定的摘要按钮、让客户自由提交提示词并选择参数的通用端点,会落到不同类别。但这是作者对文本的解读,不能把「套了一层业务界面」直接当作豁免依据;关联公司的业务也可能影响判断。
能否商业使用,要看实际提供的能力,不能只看许可证名称里有没有 MIT。
52B 激活参数,为什么还要准备多张 GPU
原文给出的 Mistral API 标价是每百万输入 token 0.70 美元、每百万输出 token 2.10 美元,OpenRouter 也已列出该模型。对于已有 OpenAI 风格客户端的项目,可以先通过 API 验证适配成本。
自托管则是另一档投入。模型卡的 vLLM 和 SGLang 示例都使用 8 张 GPU 做张量并行。The Next Web 报道,量化版本可以运行在 4 张 NVIDIA B200 或 B300 上。
这里不能把 52B 当成显存估算依据。按原文的粗算,FP8 每个参数约占 1 字节,1T 权重大约需要 1TB;NVFP4 这类 4-bit 检查点,每个参数约半字节,权重大约 500GB。两者都还没计算 KV cache。
下面是原文保留的模型卡 vLLM 启动配方,用于提供兼容 OpenAI 格式的服务:
docker run --runtime nvidia --gpus all \
-v ~/.cache/huggingface:/root/.cache/huggingface \
-p 8000:8000 --ipc=host \
vllm/vllm-openai:mistral-large-4 \
--model mistralai/Mistral-Large-4-1T-A52B \
--tensor-parallel-size 8 \
--tool-call-parser mistral \
--reasoning-parser mistral \
--enable-auto-tool-choice \
--gpu-memory-utilization 0.85
要看的是解析器配置:--tool-call-parser mistral 配合 --enable-auto-tool-choice 支持工具调用,--reasoning-parser mistral 用于分离推理内容和答案。原文作者明确说,自己没有运行过这些命令。
服务启动后,可以按请求设置推理强度:
curl http://localhost:8000/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{
"model": "mistralai/Mistral-Large-4-1T-A52B",
"reasoning_effort": "medium",
"temperature": 1.0,
"top_p": 0.95,
"messages": [
{"role": "user", "content": "Explain MoE routing."}
]
}'
这里要看 reasoning_effort;模型卡建议各档强度均使用 temperature=1.0、top_p=0.95。请求由作者根据模型卡示例和推荐配置改写,同样不是实测记录。

模型卡还列出原生 function calling 和严格 JSON schema 输出。官方宣称支持 160+ 种语言,并给出 vLLM、SGLang、NVIDIA NIM、TensorRT-LLM、OpenRouter 和 Microsoft Foundry 等接入路径。这些是可选入口,不能替代部署验证。
跑分够亮眼,但该验证的是每个任务花多少钱
Mistral 公布的 Terminal-Bench 4.0 成绩为 41%,比预览版的 28% 提高 13 个百分点,同时少用 30% 的输出 token。The Next Web 列出的 GLM-5.3 同项成绩是 40%。
在 Artificial Analysis Coding Agent Index 上,Mistral 宣称 Large 4 得分为 48%,与 GLM-5.3 基本持平,平均每个任务少用 47% 的 token。Surge Code 人类偏好测试中,官方称它在参评模型里仅次于 Claude Opus 5.5。
这些数字在原文中是厂商披露或媒体转述,并非作者独立复测。预览版经过约三周额外训练,成绩就发生明显变化,也说明评测结果对应具体版本和条件。
对开发团队,token 效率比单看榜单更有操作价值。每百万输出 token 2.10 美元只是单价,完成一次任务需要生成多少内容,同样影响账单。不过,输出更短是否仍能完成任务,需要一起验证,不能把少生成直接当成节省。
自托管还会改变安全责任。Mistral 称模型会拒绝针对真实目标的黑盒攻击,但也观察到它可能增强真实攻击能力,正在调整防护。权重部署到自己的环境后,Mistral API 侧的防护不会自动随之生效,过滤措施需要部署方处理。
我的判断
作者最有价值的建议,是把决策顺序摆正:先读许可,再用 API 测任务,最后估算硬件投入。对没有平台团队的小团队,这比拿到权重后立即研究采购更容易形成可验证的结论。
但原文没有给出自托管的完整成本,也没有并发、吞吐、延迟或不同量化配置的实测。8 张 GPU 的启动命令是一条部署配方,不能用来证明自托管划算;4 张 B200 或 B300 的报道,也没有在文中展开服务能力。
与直接调用托管 API 相比,自托管多了硬件和维护投入;它是否值得,仍取决于团队任务与约束。原文支持「先试 API」这个试用顺序,却不足以替所有团队选定最终方案。
这是一篇发布信息和决策边界的整理,不是一份已经验证过的选型报告。
能拿来做什么
- 如果准备在 Node 服务里接入 Large 4,先拿现有任务通过 API 跑一轮,分别记录输入、输出 token 和任务是否完成,再讨论替换当前模型。
- 如果要提供客户可调用的模型端点,先检查客户对提示词、参数和训练数据的控制程度,并结合 Section 2、Section 3 确认许可适用性。
- 如果评估 AI 编程能力,用同一组任务分别测试
low、medium、high推理强度,把正确性和 token 消耗放在一起比较。 - 如果已经决定自托管,从模型卡的 vLLM 或 SGLang 配方起步,保留相应解析器,并将权重之外的 KV cache 和自身过滤措施纳入部署评估。