信通院报告对比模型 API 性能与成本

国内大模型调用量涨得快，服务也在变化：输出更快了，等到第一个词的时间却变长了，价格也在上涨。中国信通院发布的《大模型词元服务性能监测报告（2026 年）》给出了一组值得程序员关注的数据。

对做 AI 应用的人，更有用的结论是：模型名字相同，不代表 API 服务表现相同。 选型除了看模型能力，还得看平台能多快开始响应、持续输出多快，以及调用是否可靠。

输出速度翻倍，为什么用户还可能觉得慢

据 IT之家 10 月 24 日转述，2026 年 6 月，国内词元（Token）日均消耗量约 500 万亿，是 2025 年 12 月的近 4 倍。越来越多 MaaS（Model as a Service，模型即服务）平台通过公有云 API 提供模型服务，但用户缺少直观的性能判断依据。

中国信通院人工智能研究所、人工智能大模型及软硬件评测工业和信息化部重点实验室、中国人工智能产业发展联盟自 2025 年起开展监测。本次报告使用的是 2026 年 1—8 月的数据。

先分清两个指标：

• TPS 是每秒输出词元数，回答开始后，它决定内容生成得有多快。
• TTFT 是首词时延，指请求发出后，要等多久才能看到第一个词元。

8 月国内模型平均 TPS 达到 78.23 个/秒，相比 2025 年均值 38.25 个/秒实现翻倍。国外典型模型同期均值为 112.82 个/秒，相比 2025 年 12 月的 51.35 个/秒也提升超过一倍。

但开始回答之前，等待变长了。国内 8 月平均 TTFT 为 1.26 秒，高于 2025 年均值 0.78 秒；国外典型模型 8 月为 2.08 秒，高于 4 月的 1.04 秒。

所以，输出更快和响应更慢可以同时发生。对流式聊天界面而言，前者影响回答展开的速度，后者影响用户盯着加载状态的时间。

报告认为，首词时延增加伴随着模型参数量、上下文长度和调用量增长，不能简单归为性能退化。不过，新闻转述没有给出各因素的贡献比例。

价格涨了，长上下文也越来越普遍

报告给出的国内模型服务归一化均价，从 2025 年下半年的 6.8 元升至 2026 年以来的 13.46 元，涨幅接近一倍。2026 年以来发布的国外典型模型平均归一价格约为 117.8 元，仍高于国内。

这里需要留一个问号：原文没有说明「归一化」的具体计价单位、输入输出权重和计算方法。因此，这些数字可以用来理解报告中的价格趋势，不能直接当成项目预算的报价。

上下文窗口也明显扩大。被监测模型中，支持 1M，即 100 万词元上下文的占比达到 47.8%；支持 200K 及以上的合计占 95.7%，比 2025 年底提高超过 76 个百分点，低于 200K 的模型占比持续减少。

对需要提交大量代码或文档的应用，这是容量上的变化。但窗口能装下多少内容，与模型能否准确利用这些内容，是两件需要分别验证的事。原文没有提供长上下文任务的准确率，也没有给出对应请求的费用和时延。

同一个模型，为什么还要挑服务平台

报告既比较原厂官方平台，也监测 DeepSeek、Qwen、GLM、Kimi 四款开源模型在第三方平台上的表现。

5 月，监测更新了这四款模型的新版本。换代后，主要模型的 TTFT 普遍阶段性上升，随后伴随推理优化逐步回落至换代前水平；TPS 则持续提升。例如，8 月 DeepSeek-V4-Pro 的 TPS 已达到 DeepSeek-V3.2 的 2 倍。

更贴近选型的是平台差异：同一模型在不同平台上的 TPS 差距，最大可接近一倍，TTFT 和调用成功率也表现不一。部分第三方平台的性能明显优于官方平台。

报告将差异主要归因于推理加速、优化策略和成本控制。也就是说，调用模型 API 时，你买到的还包括平台的服务能力，模型名称只是其中一部分。

我的判断

这份报告最有价值的地方，是把「模型好不好」拆成了几个可观察的服务指标：调用成功率、吞吐速度、首词时延、稳定性、价格和上下文窗口。比起只看模型榜单，这些指标更接近应用上线后的真实问题。

但它也不能直接替团队完成选型。原文没有交代测试请求长度、并发设置、平台套餐、样本权重及归一化价格公式，国内外数据的比较基期也不完全一致。

平台差异和速度变化属于报告监测结果；「哪个平台适合你的业务」仍需要业务请求验证。部分第三方平台更快，也不足以推出它们在所有模型、所有负载下都更好。

能拿来做什么

• 做流式聊天或 AI 编程界面时，分别记录首词等待时间和持续输出速度，避免只用请求总耗时判断体验。
• 在 Node 服务中接入模型 API 时，用同一批实际请求比较官方平台与候选第三方平台，同时记录 TPS、TTFT 和调用成功率。
• 给代码分析、文档问答选择上下文窗口时，用真实材料验证回答质量，并记录费用和时延，再决定是否需要 1M。
• 模型升级后重新测一轮服务表现。报告中的换代过程说明，新版本可能先出现首词时延上升，后续才逐步优化。