Prism ML تطلق نموذج Bonsai بحجم 5.9 غيغابايت

أطلقت شركة Prism ML الجيل الثاني من سلسلة Bonsai. يعتمد نموذج Ternary Bonsai 2 27B على Qwen3.8 27B، ويخزّن الأوزان بتمثيل ثلاثي {−1، 0، +1} مع تحجيم جماعي بدقة FP16، ما يعطي 1.76 بت فعّال لكل وزن وحجماً إجمالياً يبلغ 5.9 غيغابايت. ويُطبَّق التمثيل منخفض البتات على النموذج اللغوي بالكامل.

يدعم النموذج نافذة سياق تبلغ 262 ألف رمز (token)، ويستقبل مدخلات نصية وصورية، وصدر برخصة Apache 2.0. وتقول الشركة إنه أصغر بأكثر من 9 مرات من نظيره بالدقة الكاملة، ويحافظ على 98.2% من الأداء الإجمالي في الاختبارات بدرجة 83.9 في مجموعة تغطي الاستدلال والرياضيات والبرمجة واتباع التعليمات والرؤية واستخدام الأدوات عبر الوكلاء (Agents). أما الجيل السابق Bonsai 27B فكان يحافظ على نحو 95%.

السرعة والطاقة

وفق قياسات الشركة، يصل النموذج إلى 143 رمزاً في الثانية على بطاقة NVIDIA GeForce RTX 5090 و46.8 رمزاً في الثانية على M5 Max. وعلى RTX 4090 يستهلك 0.714 ملي واط ساعة لكل رمز، أي أكثر كفاءة بنسبة 40% من نموذج بحجم 8 مليارات معامل يعمل بالدقة الكاملة، بحسب Prism ML.

وترى الشركة أن النماذج منخفضة البتات تغيّر اقتصاديات التشغيل خارج نطاق الأجهزة المحلية أيضاً: نماذج أكبر داخل الحدّ نفسه من الذاكرة، وخدمة عدد أكبر من المستخدمين على العتاد نفسه. ومن حالات الاستخدام المطروحة: حلقات وكلاء البرمجة، وتحليل المستندات الخاصة، والتصحيح متعدد الوسائط، والأنظمة الهجينة التي تُبقي المهام الحساسة محلياً وتحيل غيرها إلى السحابة.

الأوزان متاحة اليوم، ويعمل النموذج على معالجات NVIDIA عبر CUDA وعلى أجهزة Apple (Mac وiPhone وiPad) عبر MLX بنوى مخصصة منخفضة البتات. وتفاصيل الضغط والتقييم في الورقة التقنية للشركة. وقد نشأت Prism ML من فريق باحثين في Caltech بدعم من Khosla Ventures وCerberus وGoogle، ودعم مستمر من Samsung.

الإعلان الكامل: Prism ML.