问题
大模型放在 NFS 上加载很慢，换成全闪存储能快多少？
结论
在华为昇腾 910B × 8 的平台上，把模型存储从 NFS 换成 FX100 后，DeepSeek-32B 的服务加载时间从 691 s 降到 112 s（6.2×），DeepSeek-70B 从 1399 s 降到 150 s（9.3×）R9。
为什么 NFS 会成为瓶颈
加载一个大模型，本质上是把几十到几百 GB 的权重文件顺序读进内存和显存。读得多快，取决于存储能给多少吞吐。
很多存量集群用 NFS 存放模型，优点是部署简单、所有节点都能访问。但它的吞吐受限于文件服务器和网络路径，多个节点同时加载时还会相互争抢。卡越多、模型越大，这个瓶颈越明显。
昇腾 910B 平台的实测结果
和 AMD MI308X 上的数据是什么关系
没有换算关系。上面的数字出自昇腾 910B 平台、对照的是 NFS；MI308X 平台上的加载测试对照的是另一个基线，结论是 8 张卡同时冷读模型时整体墙钟时间快 16%、单个模型加载快 30%R1。
两组数字的平台和对照基线都不同，不能相加，也不能用一组去推算另一组。能确定的只有方向：模型加载是吃存储吞吐的操作，换更快的存储就会更快。
加载快了有什么用
最直接的是模型切换。多模型共用一批卡时，每次切换都要等加载；MI308X 平台按实测加载时间建模的结果是，每小时切换 20 次时算力有效利用率从 46.7% 提高到 62.8%R1。
其次是恢复时间。服务重启、节点故障切换、弹性扩容，都要先把模型加载完才能接流量。加载从十几、二十几分钟缩到两三分钟，对可用性的影响是实在的。
相关问题
这组数字适用于其他国产算力卡吗？
不能直接套用。R9 只在昇腾 910B 平台上测过R9。其他平台需要单独实测，我们也会单独出报告，不同平台的数字不混用。
相关实测报告
- R1FX100 大模型推理与训练综合性能测试报告（AMD MI308X × 8）一份报告回答五个问题：LMCache 并行读补丁有多大作用、KV 分层在多卡下能否扩展、8 卡并发加载模型快多少、频繁切换模型时算力有效利用率如何变化、训练 Checkpoint 并发写能快多少。测试模型为 Qwen2.5-32B 与 7B。
AMD Instinct MI308X × 8 · ROCm 7.2 - R9FX100 与华为昇腾 910B 模型推理与训练性能测试（对照 NFS 基线）在华为 Atlas 910B × 8 的昇腾平台上，以 NFS 为基线做三组对照：模型推理加载（DeepSeek-32B / 70B）、训练权重与 Checkpoint 存取（Qwen-7B）、训练数据加速（YOLOv8 / COCO）。平台是昇腾 910B 而不是 MI308X，本站引用时都会注明。
华为 Atlas 910B × 8（Kunpeng-920）
外部参考资料
- 01
- 02
延伸阅读
频繁切换模型时 GPU 利用率低，怎么办？
每次切换模型，GPU 都在等权重从存储读进显存。实测显示，每小时切换 20 次时，缩短加载时间可把算力有效利用率从 46.7% 提高到 62.8%。
出处R1
KV Cache 放本地 NVMe 还是外置 NVMe-oF 阵列？
两种做法都能避免整段重算。480B 模型三档并发的实测里，外置 FX100 阵列相对本地 NVMe 单盘吞吐更高、首 token 延迟更低；本文同时说明对照条件的局限。
出处R1R2R3
厂商给的推理性能数据，怎么核实真假？
核实厂商推理性能数据的五个检查项：对照基线、测试平台与部署形态、重复测量偏差、第三方报告、复现材料。附常见的数字陷阱和提问清单。
出处R2R3R4R5R8R9