问题
供应商提供的大模型推理性能数据,买方应该怎么核实?
结论
看五件事:有没有写明对照基线,有没有写明测试平台和部署形态,有没有给出重复测量的偏差,有没有第三方机构出具的报告,以及能不能拿到复现材料自己重跑。缺任何一项,这个数字都只能当作参考,不能当作采购依据。
五个检查项
下面每一项都用我们自己的报告举例,说明一份可以核实的数据应该长什么样。
三个常见的数字陷阱
即使数字本身是真的,也有几种常见的呈现方式会误导判断。
- 混用分母:把相对「什么都不做」的大倍数,说成相对现有方案的提升。
- 只报最有利的一档:完整的做法是报出梯度。以 480B 模型为例,吞吐提升在并发 8 时是 +29%,并发 16 时是 +40%,并发 32 时是 +33%R2。
- 把建模结果说成实测结果:由实测数据推算出来的数字应当明确标注为估算,并交出推算用的模型。
可以直接拿去问厂商的问题
核实不需要很深的技术背景,把下面的问题发过去,看对方能不能逐条给出书面回答。
- 这个提升是跟什么方案比出来的?对照组的硬件配置是什么?
- 测试用的是什么模型、几张卡、哪种部署形态、什么负载?
- 同样的测试重复过几次?每次的读数差多少?
- 有没有第三方机构出具的报告?报告编号是什么?
- 测试脚本和原始数据能不能给我们,让我们在自己的集群上重跑?
核实之后还要做什么
核实只能说明厂商的数字在厂商的条件下成立。你的模型、上下文长度和并发量不同,结果也会不同。所以最后一步始终是在自己的负载上测一遍,并把通过条件提前写下来。
相关实测报告
- R2FX100 KV Cache 性能测试报告(480B · TP8 长上下文)Qwen3-Coder-480B-FP8 以八卡单实例(TP=8)的标准生产形态部署,在长上下文冷恢复负载下做三方对照:FX100、本地 NVMe 单盘、无外存整段重算,并按并发 8 / 16 / 32 做梯度。本站引用最多的吞吐与 TTFT 数字出自这份报告。
AMD Instinct MI308X × 8 · ROCm 7.2 - R3FX100 KV Cache 性能测试汇总报告(480B · TP4×2 · 全指标)同一台 8 卡服务器改为四卡双实例(TP4×2)部署,九档负载记录全部指标:TTFT 的 p50 / p90 / p99、TPOT、吞吐与盘带宽。这份报告还验证了两件事:fs:// 共享池能让两个实例热共享同一份缓存;同一档位做两轮独立测量,偏差不超过 5%。
AMD Instinct MI308X × 8 · ROCm 7.2 - R4FX100 KV Cache 性能测试报告(480B · 多实例形态 · 编号 -006)R2 与 R3 的正式汇编版,由第三方检测机构出具,报告编号 -006。如果你的采购或合规流程需要一份出自第三方机构的文件,引用这一份。
AMD Instinct MI308X × 8 · ROCm 7.2 - R5FX100 KV Cache 性能测试报告(14B · 显存效益)这份报告回答「外置 KV 层能不能当显存用」。14B 模型上做七组对照(GDS 直读、两档显存下的重算、低显存直读),用三步论证得出显存等效替代的结论。测试平台是沐曦 N260 单卡,方法论可以跨平台使用,但数字不与 MI308X 的结果混用。
沐曦 N260 单卡 - R8FX100 KV Cache 测试代码导出包与原始测试数据让第三方能自己重跑一遍的全部材料:LMCache 并行读补丁(git patch 与修改前后全文)、负载客户端、编排脚本、探针取证脚本,以及原始测试数据。
AMD Instinct MI308X · ROCm 7.2 - R9FX100 与华为昇腾 910B 模型推理与训练性能测试(对照 NFS 基线)在华为 Atlas 910B × 8 的昇腾平台上,以 NFS 为基线做三组对照:模型推理加载(DeepSeek-32B / 70B)、训练权重与 Checkpoint 存取(Qwen-7B)、训练数据加速(YOLOv8 / COCO)。平台是昇腾 910B 而不是 MI308X,本站引用时都会注明。
华为 Atlas 910B × 8(Kunpeng-920)
外部参考资料
- 01
延伸阅读
推理存储加速项目怎么验收?四道门禁的做法
把推理存储加速的验收拆成四道按周推进的门禁:到货验收、单机基线、联测主门禁、稳定性验收。每道都有可测量的通过条件,不达标就停。
出处R1R2R3R8
KV Cache 被逐出后重算还是读回?480B 模型实测
480B 模型、并发 16 的长上下文冷恢复负载下,整段重算与从 FX100 读回 KV Cache 的首 token 延迟和吞吐对比,附测试条件、两个对照基线和复现方式。
出处R2R3R4R8
NFS 加载大模型太慢?昇腾 910B 平台实测对比
在华为昇腾 910B × 8 的平台上,把模型存储从 NFS 换成 FX100 全闪阵列后,DeepSeek-32B 与 70B 的服务加载时间实测对比,以及这组数字的适用范围。
出处R1R9