# 推理栈软件开发

> 我们直接改推理栈的源码，并把改动原样交付给你：补丁、编排脚本和原始数据都在 R8 复现包里。

网页地址: https://vuke.top/solutions/software-development · 更新于 2026 年 11 月 12 日

软件开发

## 要解决的问题

硬件到位之后，真正卡住进度的往往是软件：上游框架不支持你的卡，缓存库在你的负载下有缺陷，新的模型类型没人适配。

## 我们的做法

我们直接改推理栈的源码，并把改动原样交付给你：补丁、编排脚本和原始数据都在 R8 复现包里 [R8](https://vuke.top/evidence/R8)。

## 要点与出处

- 已经验证过的上游级工程能力：vLLM / LMCache 的 ROCm 编译、并行读补丁、GDS 适配层、fs:// 缺陷定位 [R1](https://vuke.top/evidence/R1) [R8](https://vuke.top/evidence/R8)
- 新需求的快速验证：AI 视频生成产线（ComfyUI / LTX-Video 已跑通） [R6](https://vuke.top/evidence/R6) [R7](https://vuke.top/evidence/R7)、私有化推理一体机等
- 开发者资源：约 10,000 名成熟软件开发者（公司口径，接受尽调核验，不作为论证数据）
- 高校协同：与北京信息科技大学开展校企合作，万名量级的在校开发者可通过课程共建与开源实训参与 ROCm 生态（校方口径）

## 相关实测报告

- [R1](https://vuke.top/evidence/R1) · FX100 大模型推理与训练综合性能测试报告（AMD MI308X × 8）
- [R6](https://vuke.top/evidence/R6) · ComfyUI + LTX-Video 2.3 全模型部署、适配与使用报告（V2）
- [R7](https://vuke.top/evidence/R7) · ComfyUI + LTX-Video 2.3 模型适配报告（AMD MI308X）
- [R8](https://vuke.top/evidence/R8) · FX100 KV Cache 测试代码导出包与原始测试数据

## 先联测，后决策

合作从一次约 10 周的门禁化联测开始。四道门禁逐级放行，任何一道不达标就在那里停下，不必为没有被证实的收益买单。

- **G1 · 第 2 周 · 到货验收**: 物料全部到货并点验合格；每台阵列上电自检通过，24 块盘全部识别。
- **G2 · 第 4 周 · 单机基线**: 复现单节点 8 卡推理基线，与 R1 口径的偏差在 ±10% 以内；单阵列本地压测达到实测锚点 83% 的线效。
- **G3 · 第 7 周 · 联测主门禁**: KV 分层加速须同时满足：TTFT 降幅 ≥25%，吞吐提升落在 +29–40% 的实测区间内；8 个节点共享一台阵列时，回读带宽逼近网卡上限。
- **G4 · 第 10 周 · 稳定性与验收**: 72 小时连续压测不中断；注入单盘、单链路故障时业务无感；出具签字版联测报告。