推理芯片厂商 d-Matrix 接入英伟达机架平台

AI 推理芯片厂商 d-Matrix 宣布，将采用 NVIDIA NVLink Fusion 把下一代 Raptor XPU 接入英伟达的 AI 基础设施平台，从而使用 NVLink 纵向扩展网络、Spectrum-X 横向扩展网络以及 NVIDIA MGX 机架架构。

d-Matrix 联合创始人兼首席执行官 Sid Sheth 在媒体沟通会上表示：“推理需求正在飙升，但资本、时间和能源都是有限的。借助 NVLink Fusion 和 MGX，我们可以把 Raptor XPU 集成进一套已被广泛部署的液冷架构，让客户以更快、风险更低的方式部署和扩展超低延迟推理。”

关键数据

据英伟达介绍，第六代 NVLink 相比现成的以太网方案，可将 XPU 之间的延迟降低到三分之一，数据包速率提升 10 倍，每颗 XPU 提供 3 TB/s 的全互连带宽。

d-Matrix 计划把自家 XPU 组织在单一的高带宽、低延迟纵向扩展域内。其机架还可以与 NVIDIA Vera Rubin NVL72 等基于 GPU 的系统并行运行，用于分离式推理。该公司还计划集成 NVIDIA Vera CPU、ConnectX-9 SuperNIC、BlueField-4 DPU 以及 Spectrum-X 以太网网络。

统一机架标准意味着数据中心只需建设一次，即可同时支持 GPU、CPU 和 XPU，而无需为每类处理器单独设计机架架构。

生态伙伴

除 d-Matrix 外，NVLink Fusion 生态目前还包括 AWS、Arm、Intel、Fujitsu、SiFive、Alchip、Astera Labs、GUC、Marvell、MediaTek、Samsung、Cadence、Synopsys、Ayar Labs 和 Lightmatter。该平台支持 Arm、x86 和 RISC-V 三大 CPU 架构，并可与英伟达 GPU 协同工作。

更多细节见 英伟达官方博客。