برنامج NVIDIA لإدارة الطاقة يرفع إنتاجية الرموز في اختبار Lambda
على عنقود من خمسة رفوف، رفع DSX MaxLPS إنتاجية Lambda من نحو 4 ملايين إلى 5 ملايين رمز في الثانية ضمن الميزانية الكهربائية نفسها.
أعلنت NVIDIA أول تحقق ميداني من DSX MaxLPS، وهو طبقة إدارة الطاقة في منصة DSX المخصصة لمراكز بيانات الذكاء الاصطناعي (AI). أجرى الاختبار مزوّد الحوسبة السحابية Lambda، ونُشرت النتائج في قمة AI Infra Summit.
شغّلت Lambda البرنامج على عنقود من خمسة رفوف يضم 19 عقدة من خوادم NVIDIA HGX B200. بقيت العقد التسع عشرة ضمن ميزانية الطاقة نفسها التي تستهلكها 16 عقدة تعمل بكامل طاقتها. ارتفعت إنتاجية الرموز (tokens) على مستوى العنقود بنسبة 24%، من نحو 4 ملايين إلى 5 ملايين رمز في الثانية، وتحسّن الأداء لكل واط بنسبة 23%.
يراقب DSX MaxLPS الاستهلاك على مستوى وحدات المعالجة الرسومية والرفوف، ثم يعيد توزيع الهامش المتاح بين العقد، فيستعيد طاقة يهدرها التوزيع الثابت. وتتوقع NVIDIA أن يتيح النهج ما يصل إلى 40% سعة إضافية في مصانع Vera Rubin NVL72 ضمن ميزانية الميغاواط نفسها.
مراكز بيانات تتجاوب مع الشبكة
يعمل مركز Eos التابع لـ NVIDIA ببرنامج Conductor من شركة Emerald AI ضمن برنامج Flexible Load Interconnect لمرفق Silicon Valley Power. عند ضغط الشبكة تُبطَّأ المهام منخفضة الأولوية أو تُؤجَّل، بينما يستمر الاستدلال ذو الأولوية.
في تجربة خلال أغسطس/آب انخفض استهلاك المنشأة من أربعة ميغاواط إلى ثلاثة دون تدخل أي مشغّل. وقال فارون سيفارام من Emerald AI إنها المرة الأولى التي تنشر فيها الشركة نظامها عبر آلاف من وحدات NVIDIA. وأرسل المرفق منذ ذلك الحين أكثر من 200 إشارة طلب، واستجاب Conductor في أقل من دقيقة في كل مرة.
أما أول نشر تجاري مخصص لـ DSX Flex فسيكون منشأة Vera Rubin بقدرة 96 ميغاواط في مانساس بولاية فيرجينيا. وكانت DSX قد قُدّمت في GTC Taipei في مايو/أيار.
التفاصيل في مدونة NVIDIA.
