DeepSeek将DeepGEMM与DeepEP移植到华为昇腾950

DeepSeek 在 GitHub 上发布了矩阵乘法库 DeepGEMM 与专家并行通信库 DeepEP 的华为昇腾 950 版本,两者均保持与 NVIDIA 版本一致的 API。

Paylaş
DeepSeek将DeepGEMM与DeepEP移植到华为昇腾950

DeepSeek 于 2026 年 9 月 30 日在 GitHub 上新开两个仓库:DeepGEMM-Ascend 和 DeepEP-Ascend,将其训练和运行模型所用的核心算子库移植到华为昇腾(Ascend)950 AI 处理器上。此次移植没有官方博客公告,相关信息来自仓库的说明页面。

两个库的作用

DeepGEMM 是加速矩阵乘法(GEMM)的算子库,而矩阵乘法是大语言模型最基础的运算。根据说明页面,DeepGEMM-Ascend 与 DeepGEMM 完全 API 兼容:开发者安装该软件包后,即可在昇腾上沿用相同的调用方式和开发流程。该库支持 BF16、FP8 和 FP4 精度的矩阵乘法,面向混合专家(MoE)模型的 MegaMoE 算子,以及面向 MQA 注意力计算的算子。仓库采用 MIT 许可证。

DeepEP 则是 MoE 模型中负责把数据分发到不同处理器上的专家、再汇总结果的通信库。DeepEP-Ascend 的公开 API 与 NVIDIA 版本保持一致,还提供 FP8 分发、流水线并行所需的收发操作,以及一个实验性的远程内存访问组件。

性能测试与驱动时间表

DeepSeek 公布的性能数据在昇腾 950DT 上测得。DeepEP-Ascend 说明页面显示,测试使用的是华为提供给 DeepSeek、未公开发行的概念验证驱动包(PoC HDK),并做了额外的手动配置。包含满带宽所需配置的商用驱动版本,计划于 10 月 15 日前后在华为 Atlas 850E 软件下载页面发布。DeepSeek 注明,该日期是华为的计划,可能会有变动。

非 CUDA 硬件的重要一步

目前大部分 AI 软件都围绕 NVIDIA 的 CUDA 生态编写,迁移到其他硬件时,难点往往就在这一软件层。开放模型被广泛使用的 DeepSeek,以相同 API 把自家算子库移植到昇腾,意味着 CUDA 之外的硬件获得了一份分量不轻的软件支持。此举也与美国出口管制背景下中国构建自主 AI 硬件链条的努力相呼应。希望在昇腾 950 系统上训练或运行 MoE 模型的团队,可以用更少的改动迁移原本为 NVIDIA 编写的代码。

上述性能数据为 DeepSeek 自行测得,且使用的是尚未发布的驱动配置,换用商用驱动后结果可能不同。这些库在其他昇腾代际和不同 CANN 版本上的支持情况也尚未确认。仓库刚刚上线,值得关注独立研究人员的评测。

来源:GitHub:deepseek-ai/DeepGEMM-Ascend、GitHub:deepseek-ai/DeepEP-Ascend。

Devamını oku

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

أطلقت Liquid AI نموذج LFM2.5-24B-A2B كنموذج مفتوح، ويضم 24 مليار معامل إجمالا لكنه يشغل نحو 2.5 مليار منها في كل خطوة. وبحسب النتائج التي نشرتها الشركة، يولد النموذج المدرب للوكلاء الذين يستخدمون الأدوات 184 رمزا في الثانية على Apple M5 Max.

GlobalFeed Editor tarafından