Çıkarım çipi üreten d-Matrix, NVIDIA'nın raf mimarisine giriyor

Çıkarım çipi üreticisi d-Matrix, yeni nesil Raptor XPU'larını NVIDIA'nın NVLink Fusion ve MGX raf mimarisine bağlayacağını duyurdu.

Paylaş
Çıkarım çipi üreten d-Matrix, NVIDIA'nın raf mimarisine giriyor

Yapay zeka çıkarımı (inference) için çip geliştiren d-Matrix, yeni nesil Raptor XPU'larını NVIDIA'nın yapay zeka altyapı platformuna bağlamak için NVLink Fusion'ı kullanacağını açıkladı. Şirket böylece NVLink ölçek-yukarı ağı, Spectrum-X ölçek-dışı ağı ve NVIDIA MGX raf mimarisine erişiyor.

d-Matrix kurucu ortağı ve CEO'su Sid Sheth, basın toplantısında talebin arttığını ama kaynakların sınırlı kaldığını söyledi: "Çıkarım talebi hızla yükseliyor, ancak sermaye, zaman ve enerji sınırlı. NVLink Fusion ve MGX ile Raptor XPU'larımızı yaygın olarak kullanılan, sıvı soğutmalı bir mimariye entegre edebiliyoruz."

Ne sağlıyor

NVIDIA'nın verdiği rakamlara göre altıncı nesil NVLink, hazır Ethernet çözümlerine kıyasla XPU'lar arasında 3 kat daha düşük gecikme, 10 kat daha yüksek paket hızı ve XPU başına 3 TB/s all-to-all bant genişliği sunuyor.

d-Matrix, XPU'larını tek bir yüksek bant genişlikli, düşük gecikmeli ölçek-yukarı alanında birleştirmeyi planlıyor. Rafları, ayrıştırılmış çıkarım için NVIDIA Vera Rubin NVL72 gibi GPU tabanlı sistemlerle yan yana çalışabiliyor. Şirket ayrıca NVIDIA Vera CPU'ları, ConnectX-9 SuperNIC'leri, BlueField-4 DPU'ları ve Spectrum-X Ethernet ağını entegre etmeyi hedefliyor.

Ortak raf standardı sayesinde veri merkezleri bir kez inşa edilip GPU, CPU ve XPU'ları aynı mimaride barındırabiliyor; her işlemci tipi için ayrı raf tasarımı gerekmiyor.

Genişleyen liste

NVLink Fusion ekosisteminde d-Matrix'in yanı sıra AWS, Arm, Intel, Fujitsu, SiFive, Alchip, Astera Labs, GUC, Marvell, MediaTek, Samsung, Cadence, Synopsys, Ayar Labs ve Lightmatter yer alıyor. Platform Arm, x86 ve RISC-V mimarilerini destekliyor.

Ayrıntılar için NVIDIA blog duyurusuna bakabilirsiniz.

Devamını oku

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

أطلقت Liquid AI نموذج LFM2.5-24B-A2B كنموذج مفتوح، ويضم 24 مليار معامل إجمالا لكنه يشغل نحو 2.5 مليار منها في كل خطوة. وبحسب النتائج التي نشرتها الشركة، يولد النموذج المدرب للوكلاء الذين يستخدمون الأدوات 184 رمزا في الثانية على Apple M5 Max.

GlobalFeed Editor tarafından