# 什么是 前缀缓存（Prefix Caching）？

> 前缀缓存是推理引擎复用相同输入前缀的 KV Cache 的机制：两个请求开头相同（例如同一段系统提示词或同一份文档），第二个请求可以跳过这部分的计算。vLLM 内置的前缀缓存只在显存内生效。

网页地址: https://vuke.top/glossary/prefix-caching · 更新于 2026 年 11 月 12 日

前缀缓存是推理引擎复用相同输入前缀的 KV Cache 的机制：两个请求开头相同（例如同一段系统提示词或同一份文档），第二个请求可以跳过这部分的计算。vLLM 内置的前缀缓存只在显存内生效。

## 在实测里

外置 KV Cache 把这个机制延伸到显存之外：被逐出的前缀仍然可以命中，而且能在多个实例之间共享 [R3](https://vuke.top/evidence/R3)。

出处: [R3](https://vuke.top/evidence/R3)