Google تطرح R4T لتسريع تفريع الاستعلامات في البحث
إطار Retrieve-for-Train من Google Research يتعلم تفريع الاستعلام بالتعلم المعزز ثم ينقله إلى نموذج انتشار صغير.
أعلنت Google Research عن إطار Retrieve-for-Train (R4T) لمعالجة مشكلة تفريع الاستعلام (query fan-out) في أنظمة البحث والتوصية. يشغّل الإطار التعلم المعزز (RL) مرة واحدة دون اتصال لتعلّم سلوك تفريع جيد، ثم يقطّر هذا السلوك إلى نموذج انتشار (diffusion) صغير ينتج جميع اتجاهات الاسترجاع في تمريرة واحدة.
يقسم التفريع الطلب العام إلى عدة استعلامات فرعية. ويشير الباحثون إلى مشكلتين عندما يقوم نموذج لغوي كبير (LLM) عام بذلك وقت الاستدلال. الأولى هي الانهيار إلى المرادفات: عند طلب "Bohemian festival style" كتب Qwen3-4B بلا أمثلة عبارتي "bohemian festival fashion" و"festival bohemian clothes"، وهما متقاربتان تعيدان نتائج متشابهة. والثانية هي البطء، إذ إن التوليد الانحداري مع استدعاءات الاسترجاع المتكررة بطيء، وأسلوب Best-of-N يرفع الجودة لكنه يضاعف التكلفة.
المكافأة والتدريب
في الاسترجاع التجريدي المفتوح تجمع المكافأة ثلاثة حدود مرجّحة. وتبيّن تجارب الحذف أهمية الثلاثة: بحد الاستناد وحده انتهى Gemma3-4B إلى سلاسل مثل "line ending line ending line ending"، وإضافة المحاذاة سرّعت الانهيار، بينما أغلق حد التنوع الطريقين. يعتمد التدريب على GRPO مع تنظيم PPO ليّن يضيف عقوبات KL أمامية وعكسية، بحجم مجموعة 8 ومعدل تعلم 1×10⁻⁷ وحجم دفعة عام 512.
النتائج
استُخدمت مجموعة Polyvore للأزياء مع مرمّز matryoshka قائم على CLIP بـ128 بعداً، ومجموعة موسيقية خاصة بتضمينات MuLan. أنتجت كل الطرق 10 استعلامات فرعية. وبتقييم حَكَم آلي على مقياس ليكرت الخماسي، بلغ متوسط Gemma3-4B مع R4T-FOLM في Polyvore 49.1 مقابل 40.9 لـBest-of-N و38.5 بلا أمثلة، وارتفع التنوع من 56.0 إلى 76.8 واحتفظ نموذج الانتشار بـ74.3. وفي الموسيقى بلغ المتوسط 58.1 مقابل 49.2.
عند حجم دفعة 8 استغرق التفريع الانحداري نحو 1.46 ثانية مقابل 0.07 ثانية لنموذج الانتشار، وعند 1024 بلغ نحو 50 ثانية مقابل 4.21 ثانية. ويذكر الباحثون تسريعاً يتراوح بين 12 و20 ضعفاً. التفاصيل في تقرير MarkTechPost.