# 什么是 TTFT（首 token 延迟）？

> TTFT（Time To First Token）是从请求发出到模型返回第一个 token 的时间，决定了用户感受到的「响应快不快」。它主要由预填充（prefill）阶段决定：模型要先处理完全部输入，才能开始输出。

网页地址: https://vuke.top/glossary/ttft · 更新于 2026 年 11 月 12 日

TTFT（Time To First Token）是从请求发出到模型返回第一个 token 的时间，决定了用户感受到的「响应快不快」。它主要由预填充（prefill）阶段决定：模型要先处理完全部输入，才能开始输出。

## 在实测里

长上下文会话的 KV Cache 被逐出后，TTFT 会急剧变长。实测中，整段重算的 TTFT p50 为 149.5 s，从 FX100 读回则为 11.85 s（480B 模型，并发 16） [R2](https://vuke.top/evidence/R2)。

出处: [R2](https://vuke.top/evidence/R2)