跳到正文
芯元一

报告 R3 · 性能测试汇总报告(正式版)

FX100 KV Cache 性能测试汇总报告(480B · TP4×2 · 全指标)

同一台 8 卡服务器改为四卡双实例(TP4×2)部署,九档负载记录全部指标:TTFT 的 p50 / p90 / p99、TPOT、吞吐与盘带宽。这份报告还验证了两件事:fs:// 共享池能让两个实例热共享同一份缓存;同一档位做两轮独立测量,偏差不超过 5%。

日期
类型
性能测试汇总报告(正式版)
测试平台
AMD Instinct MI308X × 8 · ROCm 7.2

关键结论

  • TP4×2 全机口径吞吐提升 +35–36%
  • fs:// 共享池跨实例热共享验证通过
  • 两轮独立测量偏差 ≤5%

说明: 签字原件沿用早期产品称谓(AISSD5000)。对外提供的是品牌统一版:产品名统一为 FX100,重排版式并补充了图表与数值校验附录,九档实测值与签字原件逐格一致。签字原件可应要求提供,用于核对同一性。

这份报告支撑的数字

+29–40%

推理吞吐提升

对比本地 NVMe 单盘

Qwen3-Coder-480B-FP8、TP=8 生产部署形态,长上下文冷恢复负载:并发 8 时 +29%,并发 16(实测中提升幅度最大的一档)时 +40%;TP4×2 双实例全机口径为 +35–36%。

实测出处R2R3

≤5%

两轮独立测量的偏差

同一档位重复测量

同一档位做两轮独立测量,偏差不超过 5%;fs:// 共享池的跨实例热共享同时验证通过。

实测出处R3

1 : 8

阵列与推理节点的配比

生产配比口径

每台 FX100 服务 8 个推理节点:100 GbE 能支撑 8 节点 KV 回读是实测锚点。联测口径下,存储投入约占 GPU 预算的一成以内。

估算出处R1R2R3

测试平台

适用于 R1、R2、R3、R4。其余报告的平台见各自条目。
加速卡8 × AMD Instinct MI308X(每卡 192 GB HBM,gfx942)
主机2 × AMD EPYC 9654(384 线程),内存约 1.5 TB
软件栈ROCm 7.2 · vLLM 0.20.1+rocm721 · LMCache(上游主线 2026-06-29 源码编译)
被测设备FX100 全闪 NVMe-oF 阵列:4 盘 RAID0(14 TB,XFS),RoCEv2,单口 100 GbE
对照基线本地 NVMe 单盘(PCIe Gen4,2 TB);无外存、整段重算
480B 模型Qwen3-Coder-480B-FP8(MoE,权重约 450 GB)

哪些页面引用了这份报告

申请报告原件

告诉我们你需要的报告编号和用途,我们会回复获取方式。R8 的代码导出包与原始数据同样按申请提供。

申请报告原件申请时请注明编号R3

全部报告

先联测,后决策

先联测,后决策

合作从一次约 10 周的门禁化联测开始。四道门禁逐级放行,任何一道不达标就在那里停下,不必为没有被证实的收益买单。

联系人
王利民
电话
13161818898
邮箱
mingxin@agentmail.to

邮箱由 AI 自动接收与分拣,7×24 小时在线