PCIe 3.0 · 100 Gb · U.2
FX100 全闪 NVMe-oF 阵列
FX100 是 FX 系列里实测数据最完整的一款:R1–R5 与 R9 都以它为被测设备,覆盖 AMD MI308X、沐曦 N260、华为昇腾 910B 三个平台。单接口 100 Gb、1,600 万 IOPS,生产配比为每台服务 8 个推理节点。
更新于
规格
| 接口代际 | PCIe 3.0 |
|---|---|
| 单接口速率 | 100 Gb |
| IOPS | 1,600 万 |
| 闪存形态 | U.2 |
| 主控与扩展 | 双主控,2×3 接口(ASIC) |
| 盘位配置 | 24 × 7.68 TB Gen4 企业级 U.2 NVMe SSD |
| 状态 | 量产在售 |
| 参考价 | ¥371,200 |
FX100 参考价怎么算出来的
| 平台(不含盘) | ¥160,000 | |
|---|---|---|
| 企业级 NVMe SSD | 24 × ¥8,800 | ¥211,200 |
| FX100 满配整机参考价 | 184.3 TB · ≈¥2,014/TB | ¥371,200 |
满配整机参考价 = 平台 ¥160,000 + 24 × ¥8,800 = ¥371,200,裸容量 184.3 TB,约合 ¥2,014/TB。SSD 按参考市场价计、随行就市,正式价格以采购合同为准。
适合谁
- 想先用联测验证 KV Cache 分层收益,再决定是否扩容的团队
- 已有 100 GbE RoCEv2 网络的 MI308X 或昇腾 910B 推理集群
- 受 NFS 拖累、模型加载与切换耗时过长的存量集群
相关实测报告
| 指标 | 数值 | 对照基线 | 出处 |
|---|---|---|---|
| 推理吞吐提升 | +29–40% | 对比本地 NVMe 单盘 | R2R3 |
| 首 token 延迟(TTFT)降低 | −26–32% | 对比本地 NVMe 单盘 | R2 |
| 相对无外存重算的加速 | 8.6–20× | 对比无外存、整段重算 | R2 |
| LMCache 并行读补丁的 TTFT 改善 | 4.1× | 对比打补丁之前 | R1 |
| 模型服务加载提速 | 6.2–9.3× | 对比 NFS,昇腾 910B 平台 | R9 |
| 训练 Checkpoint 保存提速 | 1.9× | 对比 R1 报告中的对照基线 | R1 |
| 模型切换场景的算力有效利用率 | 46.7% → 62.8% | 每小时切换 20 次的档位 | R1 |
| 8 卡并发加载模型 | 16% / 30% | 对比 R1 报告中的对照基线 | R1 |
| 两轮独立测量的偏差 | ≤5% | 同一档位重复测量 | R3 |
| 外置 KV 层可替代的显存驻留量级 | 128 GB | 沐曦 N260 单卡,14B 模型七组对照 | R5 |
| 阵列与推理节点的配比 | 1 : 8 | 生产配比口径 | R1R2R3 |
- R1FX100 大模型推理与训练综合性能测试报告(AMD MI308X × 8)一份报告回答五个问题:LMCache 并行读补丁有多大作用、KV 分层在多卡下能否扩展、8 卡并发加载模型快多少、频繁切换模型时算力有效利用率如何变化、训练 Checkpoint 并发写能快多少。测试模型为 Qwen2.5-32B 与 7B。
AMD Instinct MI308X × 8 · ROCm 7.2 - R2FX100 KV Cache 性能测试报告(480B · TP8 长上下文)Qwen3-Coder-480B-FP8 以八卡单实例(TP=8)的标准生产形态部署,在长上下文冷恢复负载下做三方对照:FX100、本地 NVMe 单盘、无外存整段重算,并按并发 8 / 16 / 32 做梯度。本站引用最多的吞吐与 TTFT 数字出自这份报告。
AMD Instinct MI308X × 8 · ROCm 7.2 - R3FX100 KV Cache 性能测试汇总报告(480B · TP4×2 · 全指标)同一台 8 卡服务器改为四卡双实例(TP4×2)部署,九档负载记录全部指标:TTFT 的 p50 / p90 / p99、TPOT、吞吐与盘带宽。这份报告还验证了两件事:fs:// 共享池能让两个实例热共享同一份缓存;同一档位做两轮独立测量,偏差不超过 5%。
AMD Instinct MI308X × 8 · ROCm 7.2 - R4FX100 KV Cache 性能测试报告(480B · 多实例形态 · 编号 -006)R2 与 R3 的正式汇编版,由第三方检测机构出具,报告编号 -006。如果你的采购或合规流程需要一份出自第三方机构的文件,引用这一份。
AMD Instinct MI308X × 8 · ROCm 7.2 - R5FX100 KV Cache 性能测试报告(14B · 显存效益)这份报告回答「外置 KV 层能不能当显存用」。14B 模型上做七组对照(GDS 直读、两档显存下的重算、低显存直读),用三步论证得出显存等效替代的结论。测试平台是沐曦 N260 单卡,方法论可以跨平台使用,但数字不与 MI308X 的结果混用。
沐曦 N260 单卡 - R9FX100 与华为昇腾 910B 模型推理与训练性能测试(对照 NFS 基线)在华为 Atlas 910B × 8 的昇腾平台上,以 NFS 为基线做三组对照:模型推理加载(DeepSeek-32B / 70B)、训练权重与 Checkpoint 存取(Qwen-7B)、训练数据加速(YOLOv8 / COCO)。平台是昇腾 910B 而不是 MI308X,本站引用时都会注明。
华为 Atlas 910B × 8(Kunpeng-920)
用在哪些方案里
- 存储加速:KV Cache 分层
存储加速
- 国产与非 N 卡算力适配
国产算力适配
- 算力中心效能优化
效能优化
- 算力中心建设
算力中心建设
同系列其他机型
- 联系人
- 王利民
- 邮箱
- mingxin@agentmail.to
邮箱由 AI 自动接收与分拣,7×24 小时在线