Goodfire: كلمات تشعّب قليلة تحدّد وجهة سلسلة الاستدلال

نشرت Goodfire، العاملة في مجال قابلية التفسير، طريقةً لفحص سلاسل الاستدلال لدى نماذج اللغة، أسمتها تحليل المسارات المتشعّبة.

ومنطق الطريقة مباشر: بينما يفكّر النموذج في سؤال خطوةً خطوة، تُعاد سلسلة التوليد مرارًا انطلاقًا من كل نقطة. ثم تُجمع الإجابات التي تصل إليها هذه المسارات البديلة كلّها في توزيع احتمالي. وبذلك يتّضح عند أي موضع من السلسلة تتغيّر الإجابة فعليًا.

والنتيجة أن أجزاء السلسلة الطويلة ليست متساوية الوزن. فثمّة رموز تشعّب قليلة هي التي تحسم المآل، وكثيرًا ما تفصل كلمة واحدة بين إجابة النموذج وإجابة مختلفة تمامًا. وترى الشركة أن لهذا أهمية في مراقبة الاستدلال، إذ قد تكفي متابعة بضع نقاط حرجة بدل السلسلة كاملةً. وتفيد Goodfire بأن الطريقة تعطي المعلومات ذاتها بحوسبة أقلّ بكثير من الأساليب السابقة، وهذا رقم من قياس الشركة نفسها.

كما أتاحت Goodfire وكيلها البحثي Silico للاستخدام العام. وبحسب روايتها، أعاد المنصّة إنتاج ثلاث دراسات من أدبيات قابلية التفسير هي Interpretability in the Wild وROME وMixing Mechanisms، من دون الاطّلاع على شيفرات مؤلّفيها. ويُقدَّم Silico خدمةً مدفوعة.

أعمال الشركة على صفحة أبحاث Goodfire.