> ## Content Index
> Fetch the complete content index at: https://globalfeed.ai/llms.txt
> Use this file to discover other available public pages before exploring further.

# Perplexity تشرح منظومة GPU التي تخدم pplx-embed: Ivy وTulip وROSE
- URL: https://globalfeed.ai/ar/perplexity-tkshf-bny-ltdmyn-aal-gpu-ivy-wtulip-wrose-khlf-pplx-embed/
- Published: 2026-09-06T13:43:54.000Z
- Updated: 2026-09-06T13:43:54.000Z
- Description: شرح فريق الهندسة في Perplexity كيف يخدّم نماذج التضمين والترتيب خلف محرك البحث. المنظومة من ثلاثة مكونات: Ivy وTulip وROSE. والنتيجة الأساسية أن زمن الاستجابة في نماذج التضمين الصغيرة يتبع عدد الرموز لا عدد المتتاليات.
- Author: GlobalFeed Editor
- Tags: Perplexity, نماذج التضمين, GPU, بنية البحث, x-perplexity_ai, dil-ar, video

شرح فريق الهندسة في Perplexity، في [مقالة بعنوان "Fast Embeddings on GPUs"](https://www.perplexity.ai/hub/blog/fast-embeddings-on-gpus?ref=globalfeed.ai) نُشرت في 4 أيلول، كيف يخدّم نماذج التضمين والترتيب خلف محرك البحث. تصف المقالة منظومة من ثلاثة مكونات: Ivy وTulip وROSE. والنتيجة الأساسية أن زمن الاستجابة في نماذج التضمين الصغيرة يتبع عدد الرموز لا عدد المتتاليات؛ ففي نموذج دون مليار معامل يكفي نحو 512 رمزاً لإشباع وحدة المعالجة الرسومية.

## المنظومة

- **Ivy**: بوابة HTTP مكتوبة بلغة Rust، تتولى تحليل JSON والترميز وقولبة المدخلات وتقسيم الطلبات الدفعية، ثم تحوّل الطلب إلى بروتوكول gRPC خاص وتوزّع الحمل بين النسخ. وبحسب الشركة، خفّض مرمّزها الداخلي من نوع unigram زمن الاستجابة بدرجة كبيرة قياساً بالمرمّزات الجاهزة.
- **Tulip**: خادم gRPC مكتوب بلغة Rust مع tokio وtonic، يجدول الطلبات بترتيب وصولها ويجمّعها في دفعات ثم يمررها إلى ROSE.
- **ROSE** (Runtime-Optimized Serving Engine): محرك الاستدلال، مكتوب بمعظمه بلغة Python. لا يُبنى في خدمة التضمين مخزن KV، وتُستخدم نوى انتباه من نوع ragged لا تحتاج إلى حشو؛ وبعبارة الشركة، تمر خدمة pplx-embed وتحليل Qwen3.5 عبر النوى نفسها.

## من أين يأتي المكسب

في الدفعات الصغيرة قد تفوق كلفة إطلاق النوى على جانب المعالج المركزي عملَ وحدة المعالجة الرسومية، لذلك يُلتقط المرور الأمامي كله في رسم CUDA واحد يُطلق باستدعاء واحد. ولأن شبكة الإعدادات واسعة تنتج آلاف الرسوم وقد يستغرق التقاطها دقائق، يجري الالتقاط بكسل أثناء الخدمة: تسخين عند أول إصابة، والتقاط عند الثانية، ثم إعادة تشغيل. أما LazyTensor فيتابع نسخاً غير متزامن إلى ذاكرة مضيفة مثبّتة بدل انتظار النتيجة، فتدخل الدفعة التالية الطابور قبل انتهاء سابقتها.

## القياس

جرت المقارنة مع vLLM v0.22.0 بدقة BF16 وبأوزان نماذج حقيقية في أربعة سيناريوهات. وتفيد Perplexity بزمن استجابة أقل وإنتاجية أعلى، لكن الأرقام في الرسوم البيانية فقط ولا يذكر نص المقالة أي رقم. ولا يوجد اختبار مستقل.

## للقارئ المؤسسي

الدرس للمؤسسة التي تبني بنية بحث أو RAG خاصة بها أن المكسب يأتي من الغلاف المحيط بالنموذج أكثر من النموذج نفسه: الترميز، والتجميع في دفعات، وتداخل عمل المعالج المركزي مع وحدة المعالجة الرسومية. وتكبير الدفعة في نموذج تضمين صغير لا يزيد الإنتاجية، والعتبة نحو 512 رمزاً. وإعداد القياس مذكور في المقالة، فيمكن تكراره على حمل آخر. ولا يرد في المقالة أي إعلان بأن المنظومة مفتوحة المصدر.

## المصادر

- Perplexity Engineering، "Fast Embeddings on GPUs"، 4 أيلول: [perplexity.ai/hub/blog/fast-embeddings-on-gpus](https://www.perplexity.ai/hub/blog/fast-embeddings-on-gpus?ref=globalfeed.ai)
- عرض MarkTechPost، 5 أيلول.