Çıkarım çipi üreten d-Matrix, NVIDIA'nın raf mimarisine giriyor
Çıkarım çipi üreticisi d-Matrix, yeni nesil Raptor XPU'larını NVIDIA'nın NVLink Fusion ve MGX raf mimarisine bağlayacağını duyurdu.
Yapay zeka çıkarımı (inference) için çip geliştiren d-Matrix, yeni nesil Raptor XPU'larını NVIDIA'nın yapay zeka altyapı platformuna bağlamak için NVLink Fusion'ı kullanacağını açıkladı. Şirket böylece NVLink ölçek-yukarı ağı, Spectrum-X ölçek-dışı ağı ve NVIDIA MGX raf mimarisine erişiyor.
d-Matrix kurucu ortağı ve CEO'su Sid Sheth, basın toplantısında talebin arttığını ama kaynakların sınırlı kaldığını söyledi: "Çıkarım talebi hızla yükseliyor, ancak sermaye, zaman ve enerji sınırlı. NVLink Fusion ve MGX ile Raptor XPU'larımızı yaygın olarak kullanılan, sıvı soğutmalı bir mimariye entegre edebiliyoruz."
Ne sağlıyor
NVIDIA'nın verdiği rakamlara göre altıncı nesil NVLink, hazır Ethernet çözümlerine kıyasla XPU'lar arasında 3 kat daha düşük gecikme, 10 kat daha yüksek paket hızı ve XPU başına 3 TB/s all-to-all bant genişliği sunuyor.
d-Matrix, XPU'larını tek bir yüksek bant genişlikli, düşük gecikmeli ölçek-yukarı alanında birleştirmeyi planlıyor. Rafları, ayrıştırılmış çıkarım için NVIDIA Vera Rubin NVL72 gibi GPU tabanlı sistemlerle yan yana çalışabiliyor. Şirket ayrıca NVIDIA Vera CPU'ları, ConnectX-9 SuperNIC'leri, BlueField-4 DPU'ları ve Spectrum-X Ethernet ağını entegre etmeyi hedefliyor.
Ortak raf standardı sayesinde veri merkezleri bir kez inşa edilip GPU, CPU ve XPU'ları aynı mimaride barındırabiliyor; her işlemci tipi için ayrı raf tasarımı gerekmiyor.
Genişleyen liste
NVLink Fusion ekosisteminde d-Matrix'in yanı sıra AWS, Arm, Intel, Fujitsu, SiFive, Alchip, Astera Labs, GUC, Marvell, MediaTek, Samsung, Cadence, Synopsys, Ayar Labs ve Lightmatter yer alıyor. Platform Arm, x86 ve RISC-V mimarilerini destekliyor.
Ayrıntılar için NVIDIA blog duyurusuna bakabilirsiniz.