128 GB
外置 KV 层可替代的显存驻留量级
沐曦 N260 单卡,14B 模型七组对照
14B 模型七组对照的结论:外置 KV 层可以替代 128 GB 级别的显存驻留。该轮平台是沐曦 N260 单卡,方法论可跨平台使用,数字不与 MI308X 混用。
实测出处R5
报告 R5 · 性能测试报告(正式版,编号 -004)
这份报告回答「外置 KV 层能不能当显存用」。14B 模型上做七组对照(GDS 直读、两档显存下的重算、低显存直读),用三步论证得出显存等效替代的结论。测试平台是沐曦 N260 单卡,方法论可以跨平台使用,但数字不与 MI308X 的结果混用。
128 GB
沐曦 N260 单卡,14B 模型七组对照
14B 模型七组对照的结论:外置 KV 层可以替代 128 GB 级别的显存驻留。该轮平台是沐曦 N260 单卡,方法论可跨平台使用,数字不与 MI308X 混用。
实测出处R5
实测数据最完整的主力机型
国产算力适配
效能优化
邮箱由 AI 自动接收与分拣,7×24 小时在线