# R3：FX100 KV Cache 性能测试汇总报告（480B · TP4×2 · 全指标）

> 同一台 8 卡服务器改为四卡双实例（TP4×2）部署，九档负载记录全部指标：TTFT 的 p50 / p90 / p99、TPOT、吞吐与盘带宽。这份报告还验证了两件事：fs:// 共享池能让两个实例热共享同一份缓存；同一档位做两轮独立测量，偏差不超过 5%。

网页地址: https://vuke.top/evidence/R3 · 更新于 2026 年 11 月 12 日

同一台 8 卡服务器改为四卡双实例（TP4×2）部署，九档负载记录全部指标：TTFT 的 p50 / p90 / p99、TPOT、吞吐与盘带宽。这份报告还验证了两件事：fs:// 共享池能让两个实例热共享同一份缓存；同一档位做两轮独立测量，偏差不超过 5%。

- 报告: R3
- 日期: 2026-07-06
- 类型: 性能测试汇总报告（正式版）
- 测试平台: AMD Instinct MI308X × 8 · ROCm 7.2

## 关键结论

- TP4×2 全机口径吞吐提升 +35–36%
- fs:// 共享池跨实例热共享验证通过
- 两轮独立测量偏差 ≤5%

> 说明: 签字原件沿用早期产品称谓（AISSD5000）。对外提供的是品牌统一版：产品名统一为 FX100，重排版式并补充了图表与数值校验附录，九档实测值与签字原件逐格一致。签字原件可应要求提供，用于核对同一性。

## 这份报告支撑的数字

| 指标 | 数值 | 对照基线 | 说明 | 出处 |
| --- | --- | --- | --- | --- |
| 推理吞吐提升 | +29–40% | 对比本地 NVMe 单盘 | Qwen3-Coder-480B-FP8、TP=8 生产部署形态，长上下文冷恢复负载：并发 8 时 +29%，并发 16（实测中提升幅度最大的一档）时 +40%；TP4×2 双实例全机口径为 +35–36%。 | 实测 · [R2](https://vuke.top/evidence/R2) [R3](https://vuke.top/evidence/R3) |
| 两轮独立测量的偏差 | ≤5% | 同一档位重复测量 | 同一档位做两轮独立测量，偏差不超过 5%；fs:// 共享池的跨实例热共享同时验证通过。 | 实测 · [R3](https://vuke.top/evidence/R3) |
| 阵列与推理节点的配比 | 1 : 8 | 生产配比口径 | 每台 FX100 服务 8 个推理节点：100 GbE 能支撑 8 节点 KV 回读是实测锚点。联测口径下，存储投入约占 GPU 预算的一成以内。 | 估算 · [R1](https://vuke.top/evidence/R1) [R2](https://vuke.top/evidence/R2) [R3](https://vuke.top/evidence/R3) |

## 测试平台

- 加速卡: 8 × AMD Instinct MI308X（每卡 192 GB HBM，gfx942）
- 主机: 2 × AMD EPYC 9654（384 线程），内存约 1.5 TB
- 软件栈: ROCm 7.2 · vLLM 0.20.1+rocm721 · LMCache（上游主线 2026-06-29 源码编译）
- 被测设备: FX100 全闪 NVMe-oF 阵列：4 盘 RAID0（14 TB，XFS），RoCEv2，单口 100 GbE
- 对照基线: 本地 NVMe 单盘（PCIe Gen4，2 TB）；无外存、整段重算
- 480B 模型: Qwen3-Coder-480B-FP8（MoE，权重约 450 GB）

## 申请报告原件

告诉我们你需要的报告编号和用途，我们会回复获取方式。R8 的代码导出包与原始数据同样按申请提供。

- 公司: 芯元一（天津）半导体设备有限公司
- 联系人: 王利民
- 电话: 13161818898
- 邮箱: mingxin@agentmail.to (邮箱由 AI 自动接收与分拣，7×24 小时在线)
