تضاعف سرعة الاستدلال على بطاقة AMD Radeon R9700 واحدة
قياسات نُشرت في مجتمع LocalLLaMA تسجل 153 رمزًا في الثانية على بطاقة واحدة و470 رمزًا في الثانية مع ثمانية طلبات متزامنة.
نشر أحد المستخدمين في مجتمع LocalLLaMA مجموعة قياسات تفيد بأن أداء الاستدلال على بطاقة AMD Radeon R9700 واحدة تضاعف في جميع الفئات بعد أعمال تحسين موجهة لهذا الإعداد. جرت الاختبارات باستخدام نسخة Unsloth من نموذج Qwen3.8 27b بصيغة NVFP4.
ويقول صاحب المنشور إن الأسئلة عن إعدادات البطاقة الواحدة تكررت في التعليقات وعلى Discord، فخصص وقتًا للعمل على هذه الحالة تحديدًا.
الأرقام المسجلة
الوسيط لسرعة فك الترميز (decode) بحسب الفئة:
- json: 153.1 رمزًا/ثانية
- التلخيص: 141.7
- الرياضيات: 140.0
- تحرير الملفات: 138.0
- الاستدلال المنطقي: 123.9
- البرمجة: 120.5
- النصوص الأدبية: 69.2
- المحادثة: 67.1
أما زمن التحديث (p50) فيبلغ نحو 42 ميلي ثانية في معظم الفئات، وينخفض إلى 34 تقريبًا في الاستدلال والتلخيص.
ويضيف عنوان المنشور رقمين آخرين: 470 رمزًا في الثانية إجمالًا مع ثمانية طلبات متزامنة، و3,619 رمزًا في الثانية في مرحلة التعبئة المسبقة (prefill).
لماذا يهم ذلك
يميل معظم من يشغّلون النماذج محليًا إلى عتاد NVIDIA، بينما تبقى القياسات الملموسة لبطاقة AMD واحدة أقل تداولًا. هذه النتائج تقدم نقطة بيانات مباشرة عن سرعة تشغيل نموذج بـ27 مليار معامل بصيغة NVFP4 على بطاقة واحدة.
الأرقام لم تُتحقق منها جهة مستقلة، وهي صادرة عن منصة اختبار صاحب المنشور. الجداول الكاملة وتفاصيل التعبئة المسبقة متاحة في المنشور الأصلي.
