TTFT 与 TTFB 的区别：45 个 AI API 四区域实测数据

如果你曾对比过"最快 AI API"的基准测试，发现它们结论互相矛盾，这很可能是因为它们根本不是在测量同一个指标。两个数字被混为一谈，但它们回答的是不同的问题：

TTFB — 首字节时间（time to first byte）。DNS 解析、TCP 连接、TLS 握手、首字节返回。这是网络路径和提供商的大门，与模型完全无关。

TTFT — 首 token 时间（time to first token）。一次真正的流式补全，从发出请求到第一个 token 出现。这包含了同样的网络时间，加上提供商侧的排队，以及模型对你的 prompt 进行的 prefill 处理。

TTFB 是每次请求无论调用什么都要支付的底价。TTFT 才是人类真正盯着屏幕等文字出现的时间。

我运营着 llmlatency.dev，持续对约 45 个推理提供商从四个地区（德国、美国中部、东京、圣保罗）测量这两个指标。以下是数据所揭示的：为什么这两个数字永远不该被合并成一张排行榜。

同一地区、相同探测源，两个不同的冠军

过去 24 小时从圣保罗测量的结果：

openrouter 的大门响应比 cerebras 快 3.2 倍（58 ms vs 184 ms）。而 cerebras 依然比 openrouter 更早流出第一个 token（757 ms vs 1021 ms），早了 264 ms。

相同的探测源、相同的调度、相同的地区，结论却截然相反。"哪个 API 最快？"这个问题在明确说出你比较的是哪一个指标之前，根本没有唯一答案。

大多数 TTFT 时间其实不是你在测的 API

以下是我同时有两项数据的提供商的时间分解：

首 token 时间中，网络时间仅占 3% 到 33%。其余 67%–97% 是提供商的请求排队和模型进行的 prefill。

这对基准测试表有一个令人不安的启示：如果 TTFT 比较没有标注每个数字背后的模型，那么它测量的大部分内容实际上是模型而非 API。30B 模型的首 token 时间无论运行在谁的 GPU 上都会优于 120B 模型。以下是上述数字背后的模型——这正是我不把它们作为提供商排名发布的原因：

四个不同的模型。将它们相互排名并称之为提供商排名，是一种穿着表格外衣的范畴错误。

"快"如果不说明"从哪里测"，毫无意义

地区差异远大于大多数提供商之间的差距：

相同的 API、相同的请求，从不同大洲拨测差异高达 18.9 倍。在一台美国数据中心的机器上运行的基准测试并没有错，只是它在回答的是关于那台数据中心的问题。

阅读任何延迟基准测试的清单

包括我自己的。如果一个基准测试无法回答这些问题，就把这个数字当作一种感觉。

TTFB 还是 TTFT？如果没有说明，通常是用 TTFT 的语言包装的 TTFB。

哪个模型？TTFT 数字旁边没有模型名称，意味着这个数字描述的是模型本身。

从哪里测？一个地区只是一个数据点，不是排名。

p50 还是 p95？尾部延迟才是用户真正感受到的痛苦所在，p95 的排序往往与 p50 不同。

什么时候测的，频率如何？只在三月跑过一次的基准测试描述的只是三月的情况。

多少样本？我上面的表格每天每个提供商每个地区有 57–58 个样本。

我自身数据的诚实边界

在我追踪的 45 个提供商中，只有 4 个有 TTFT 测量数据。这不是因为其他 41 个不值得关注，而是因为流式补全需要每个提供商都有付费 API key，每次探测都会消耗 token。边缘延迟不需要 key，所以 TTFB 对全部 45 个提供商都有发布。

我宁愿发布 4 个实测的 TTFT 数据，也不愿发布 45 个估算值。把估算值当作测量值来发布，是延迟追踪者绝对不能做的事。

数据完全免费，且机器可读

数据采用 CC-BY-4.0 协议。无需 key、无需注册、CORS 开放：

# Rankings for every region, updated continuously
curl https://llmlatency.dev/api/rankings.json

# Any page as markdown, for agents and scripts
curl https://llmlatency.dev/time-to-first-token.md

如果你希望助手在对话中查询这些数据，还有一个远程 MCP server：

curl -X POST https://llmlatency.dev/mcp \
  -H 'Content-Type: application/json' \
  -H 'Accept: application/json, text/event-stream' \
  -d '{"jsonrpc":"2.0","id":1,"method":"tools/list","params":{}}'

完整的方法论，包括探测器的测量范围和局限性：llmlatency.dev/methodology。TTFT 分解详见 llmlatency.dev/time-to-first-token，探测器本身开源在 github.com/mazamaka/llm-latency-tracker。

如果你希望添加某个提供商，或者认为某个数字有误，请告诉我——经得起检验的测量数据才是唯一值得发布的那种。