# 什么是 Prefill（预填充）？

> Prefill（预填充）是推理的第一个阶段：模型一次性处理全部输入 token，并为它们生成 KV Cache。输入越长，prefill 越耗时，这也是长上下文请求首 token 延迟高的直接原因。之后逐个生成输出 token 的阶段称为 decode。

网页地址: https://vuke.top/glossary/prefill · 更新于 2026 年 11 月 12 日

Prefill（预填充）是推理的第一个阶段：模型一次性处理全部输入 token，并为它们生成 KV Cache。输入越长，prefill 越耗时，这也是长上下文请求首 token 延迟高的直接原因。之后逐个生成输出 token 的阶段称为 decode。

## 在实测里

命中一次外置 KV Cache，就省掉一次完整的 prefill。这是 KV Cache 分层能降低 TTFT 的根本原因。