NVIDIA تنشر أول نتائج الاستدلال لمنصة Vera Rubin
نشرت NVIDIA نتائج أولية لمنصة Vera Rubin NVL72 في MLPerf Inference v6.1، مع مكاسب كبيرة في الإنتاجية مقارنة بـ GB300 NVL72.
نشرت NVIDIA نتائج أولية (preview) لمنصتها الجديدة Vera Rubin NVL72 داخل جولة MLPerf Inference v6.1 المعلنة اليوم، واختارت لها أصعب اختبارين في الحزمة: DeepSeek-R1 و Qwen3-VL.
وفق الشركة، حققت Vera Rubin NVL72 إنتاجية أعلى بما يصل إلى 3.7 مرة من GB300 NVL72 في اختبار Qwen3-VL عبر سيناريوهات offline و server و interactive، باستخدام vLLM مع إطار الاستدلال مفتوح المصدر NVIDIA Dynamo. وفي DeepSeek-R1، ومع مكتبة TensorRT-LLM، بلغت الزيادة 2.5 مرة. وتقول NVIDIA إن كل خزانة Vera Rubin تولّد رموزاً (tokens) أكثر وتخدم مستخدمين أكثر مع خفض التكلفة لكل رمز.
مصادر التحسّن
تعزو الشركة النتائج إلى التصميم المشترك بين العتاد والبرمجيات: نوى Tensor Cores المحسّنة ومحرك Transformer Engine يسرّعان مرحلتي prefill و decode، بينما تقلّص دقة NVFP4 حجم الذاكرة اللازم لأوزان النموذج وطبقة الانتباه وذاكرة KV. واعتمدت المشاركات على الخدمة المفصولة بين prefill و decode، مع توازٍ واسع للخبراء في طبقات mixture-of-experts. وداخل الخزانة يوفر الجيل السادس من NVLink و NVLink Switch، بحسب NVIDIA، معدل حزم أعلى 10 مرات وزمن استجابة أقل 3 مرات من إيثرنت الجاهز.
في التوسّع، انتقلت مشاركة DeepSeek-R1 من خزانة GB300 NVL72 واحدة (72 وحدة معالجة رسومية) إلى أربع خزانات (288 وحدة) بكفاءة توسّع 99% في سيناريو offline. كما بلغت GB300 NVL72 في اختبار WAN 2.2 لتحويل النص إلى فيديو 0.65 فيديو بدقة 720p في الثانية، أي 5.7 ثانية لكل فيديو.
وعلى صعيد البرمجيات، تحسّن أداء GB300 NVL72 في Qwen3-VL بما يصل إلى 1.6 مرة مقارنة بالإصدار v6.0. وأرسلت NVIDIA أيضاً نتائج Jetson AGX Thor في اختبار Edge-Agentic الجديد مع Qwen3.6-27B. وشارك 19 شريكاً، ثمانية منهم بأنظمة Blackwell NVL72 متعددة العقد، وقدّمت Nebius نتائج أولية لـ Vera Rubin NVL72.
التفاصيل في مدونة NVIDIA.
