跳到正文
芯元一

术语表

什么是 MoE(混合专家模型)?

MoE(Mixture of Experts,混合专家)是一种模型结构:每一层包含多个「专家」子网络,每个 token 只激活其中少数几个。它让模型可以做得很大而单次计算量不随之等比增长,但权重体积庞大。

更新于

在实测里

本站 480B 测试所用的 Qwen3-Coder-480B-FP8 就是 MoE 模型,权重约 450 GBR2。

相关实测报告

相邻词条

  • TP(张量并行)

    张量并行(Tensor Parallelism,TP)把一个模型的每一层拆到多张卡上共同计算。TP=8 表示一个模型实例横跨 8 张卡,是单卡装不下的超大模型的常见部署方式;TP4×2 则是把 8 张卡分成两个各占 4 卡的实例。

  • ROCm

    ROCm 是 AMD 为其 GPU 提供的开源计算软件栈,包含驱动、编译器、数学库和深度学习框架支持,在 AMD Instinct 加速卡上的角色相当于 NVIDIA 平台上的 CUDA。

全部术语

先联测,后决策

先联测,后决策

合作从一次约 10 周的门禁化联测开始。四道门禁逐级放行,任何一道不达标就在那里停下,不必为没有被证实的收益买单。

联系人
王利民
电话
13161818898
邮箱
mingxin@agentmail.to

邮箱由 AI 自动接收与分拣,7×24 小时在线