DeepSeek将DeepGEMM与DeepEP移植到华为昇腾950
DeepSeek 在 GitHub 上发布了矩阵乘法库 DeepGEMM 与专家并行通信库 DeepEP 的华为昇腾 950 版本,两者均保持与 NVIDIA 版本一致的 API。
DeepSeek 于 2026 年 9 月 30 日在 GitHub 上新开两个仓库:DeepGEMM-Ascend 和 DeepEP-Ascend,将其训练和运行模型所用的核心算子库移植到华为昇腾(Ascend)950 AI 处理器上。此次移植没有官方博客公告,相关信息来自仓库的说明页面。
两个库的作用
DeepGEMM 是加速矩阵乘法(GEMM)的算子库,而矩阵乘法是大语言模型最基础的运算。根据说明页面,DeepGEMM-Ascend 与 DeepGEMM 完全 API 兼容:开发者安装该软件包后,即可在昇腾上沿用相同的调用方式和开发流程。该库支持 BF16、FP8 和 FP4 精度的矩阵乘法,面向混合专家(MoE)模型的 MegaMoE 算子,以及面向 MQA 注意力计算的算子。仓库采用 MIT 许可证。
DeepEP 则是 MoE 模型中负责把数据分发到不同处理器上的专家、再汇总结果的通信库。DeepEP-Ascend 的公开 API 与 NVIDIA 版本保持一致,还提供 FP8 分发、流水线并行所需的收发操作,以及一个实验性的远程内存访问组件。
性能测试与驱动时间表
DeepSeek 公布的性能数据在昇腾 950DT 上测得。DeepEP-Ascend 说明页面显示,测试使用的是华为提供给 DeepSeek、未公开发行的概念验证驱动包(PoC HDK),并做了额外的手动配置。包含满带宽所需配置的商用驱动版本,计划于 10 月 15 日前后在华为 Atlas 850E 软件下载页面发布。DeepSeek 注明,该日期是华为的计划,可能会有变动。
非 CUDA 硬件的重要一步
目前大部分 AI 软件都围绕 NVIDIA 的 CUDA 生态编写,迁移到其他硬件时,难点往往就在这一软件层。开放模型被广泛使用的 DeepSeek,以相同 API 把自家算子库移植到昇腾,意味着 CUDA 之外的硬件获得了一份分量不轻的软件支持。此举也与美国出口管制背景下中国构建自主 AI 硬件链条的努力相呼应。希望在昇腾 950 系统上训练或运行 MoE 模型的团队,可以用更少的改动迁移原本为 NVIDIA 编写的代码。
上述性能数据为 DeepSeek 自行测得,且使用的是尚未发布的驱动配置,换用商用驱动后结果可能不同。这些库在其他昇腾代际和不同 CANN 版本上的支持情况也尚未确认。仓库刚刚上线,值得关注独立研究人员的评测。
来源:GitHub:deepseek-ai/DeepGEMM-Ascend、GitHub:deepseek-ai/DeepEP-Ascend。