大模型服务涨价提速，首词等待也变长
信通院等机构的监测报告显示，国内模型服务 8 月平均输出速度达 78.23 Token/秒，约为 2025 年均值两倍，平均首词时延则增至 1.26 秒。国内服务归一化均价从 2025 年下半年的 6.8 元升至今年的 13.46 元，被监测模型中 47.8% 支持百万 Token 上下文。
AI 深度解读
国内大模型服务出现了一组看似矛盾的变化：输出速度翻倍，开始回复的等待时间却变长了，平均价格也接近翻倍。IT之家转述的《大模型词元服务性能监测报告（2026 年）》提示，选模型不能只看单价，也不能把「输出快」等同于「响应快」。
这份报告更有用的发现是：同一个开源模型，换个平台，性能就可能明显不同。对接入 AI 的开发者来说，模型选型和服务平台选型，需要分开评估。
输出快了一倍，为什么用户还要等更久
报告由中国信通院人工智能研究所等三方于 10 月 23 日联合发布，分析基于 2026 年 1—8 月的监测数据。
先区分两个指标：TPS 是每秒输出的 Token 数，反映开始生成后输出有多快；TTFT 是首词时延，反映发出请求后，要等多久才开始收到输出。
8 月国内模型平均 TPS 达到 78.23 个/秒，相比 2025 年均值 38.25 个/秒翻倍。国外典型模型同期均值为 112.82 个/秒，相比 2025 年 12 月的 51.35 个/秒也提升超过一倍。
但国内平均 TTFT 从 2025 年的 0.78 秒增加到今年 8 月的 1.26 秒；国外典型模型则从今年 4 月的 1.04 秒增加到 8 月的 2.08 秒。
开始回复前等得更久，与开始回复后输出更快，可以同时发生。
报告认为，首词时延增加伴随模型参数量、上下文长度和调用量增长，不能简单解释为性能退化。不过，原文没有给出各因素分别贡献了多少，不能据此认定某一种因素就是主要原因。
还要留意比较口径：国内 TPS 对比的是去年全年均值，国外对比的是去年 12 月，TTFT 的比较时段也不同。这些数据能展示趋势，却不是条件完全一致的横向竞赛。
价格和上下文一起增长，账单该怎么看
报告称，2026 年 6 月国内日均 Token 消耗量约 500 万亿，是 2025 年 12 月的近 4 倍。越来越多 MaaS（Model as a Service，模型即服务）平台通过公有云 API 提供服务，需求增长已经体现在调用规模上。
价格也在上涨。国内归一化均价从 2025 年下半年的 6.8 元，升至今年以来的 13.46 元，接近翻倍；2026 年以来发布的国外典型模型，平均归一价格约为 117.8 元。
这里有一个关键缺口：原文没有交代归一化价格的具体计算方式，不能直接拿这些数字估算自己的 API 账单。 输入和输出如何计价、样本如何加权，转述中都没说清。
与此同时，被监测模型中，支持 1M，即 100 万 Token 上下文的占比达到 47.8%；支持 200K 及以上的合计达到 95.7%，相比 2025 年底提高超过 76 个百分点。
上下文窗口表示一次请求能够容纳多少内容，但报告给出的容量比例，不能证明模型在接近窗口上限时仍有同等的速度、成本和回答质量。做长文档或代码库分析，仍需自己验证。
同一个开源模型，为什么换个平台就变快了
报告对比了 DeepSeek、Qwen、GLM、Kimi 四款开源模型在不同平台上的服务表现。
5 月更新监测版本后，模型 TPS 持续提升。到 8 月，DeepSeek-V4-Pro 的 TPS 已达到 DeepSeek-V3.2 的 2 倍。TTFT 则经历了先升后降：换代初期普遍增加，随后伴随推理优化，逐步回到换代前水平。
更直接影响接入决策的是平台差异：同一模型在不同平台的 TPS 差距最大可接近一倍，TTFT 和调用成功率也不一致，部分第三方平台的性能明显优于官方平台。
报告将这种分化归因于推理加速、优化策略和成本控制的差异。模型名称相同，并不代表服务体验相同。不过，原文没有列出具体平台的完整成绩，也不足以支持「第三方普遍更好」的判断。
我的判断
这份报告最有价值的地方，是把模型能力之外的服务质量单独拿出来讨论。对于用户，一次调用既包括模型生成，也包括等待和服务是否成功；只比较模型排行榜或价格表，确实容易漏掉这些差别。
但「均价翻倍」不能直接推导为每个模型都涨价，「TPS 翻倍」也不能直接推导为完成任务的时间减半。模型样本、生成长度和任务质量都会影响最终结果，而原文没有提供足够细节来拆开这些影响。
报告还提到监测调用成功率、稳定性等维度，但转述未给出相应完整数据。因此，它适合用来确定选型要测什么，暂时不足以替团队选出具体平台。
能拿来做什么
- 给流式 AI 界面分别记录 TTFT 和 TPS，区分用户是在等第一段内容，还是在等后续输出。
- 为同一个开源模型挑选候选平台时，用相同提示词、输入长度和输出要求测试，并同时记录成功率与实际费用。
- 为长文档或代码库分析选模型时，拿真实任务验证大上下文效果，不要只按 1M 或 200K 的标称窗口排序。
- 重新估算 API 预算时，使用候选平台的具体计价规则和自己的调用样本，避免直接套用报告中的归一化均价。