# 什么是 HBM（高带宽内存）？

> HBM（High Bandwidth Memory）是 AI 加速卡上使用的堆叠式高带宽内存，也就是通常所说的显存。它速度极快但容量有限、价格昂贵，模型权重和 KV Cache 都要争用这部分空间。

网页地址: https://vuke.top/glossary/hbm · 更新于 2026 年 11 月 12 日

HBM（High Bandwidth Memory）是 AI 加速卡上使用的堆叠式高带宽内存，也就是通常所说的显存。它速度极快但容量有限、价格昂贵，模型权重和 KV Cache 都要争用这部分空间。

## 在实测里

本站 MI308X 测试平台每张卡有 192 GB HBM。R5 报告论证了外置 KV 层可以替代 128 GB 级别的显存驻留（沐曦 N260 平台） [R5](https://vuke.top/evidence/R5)。

出处: [R5](https://vuke.top/evidence/R5)