AWS تستعيد الذاكرة الخاملة أثناء الجلسة في تشغيل AgentCore الجديد

بيئة التشغيل الجديدة في Amazon Bedrock AgentCore تستعيد الذاكرة التي تبرد أثناء الجلسة وتحافظ على زمن بدء ثابت مهما كان حجم الحاوية.

AWS تستعيد الذاكرة الخاملة أثناء الجلسة في تشغيل AgentCore الجديد

أعلنت AWS عن نسخة جديدة من طبقة التشغيل (runtime) في خدمة Amazon Bedrock AgentCore، وهي طبقة الحوسبة المُدارة التي تُستخدم لنشر الوكلاء (Agents) وتشغيلهم. التغيير يطال أمرين: احتساب الذاكرة وزمن بدء الجلسات.

في النسخة السابقة كانت الجلسة تحتفظ بالذاكرة التي خصّصتها حتى انتهائها، فتُحتسب الفاتورة على أعلى مستوى استهلاك لا على الاستخدام الفعلي. وكيل يعمل على دفعات متباعدة ويبقى خاملاً معظم اليوم كان يدفع ثمن ذروته طوال الوقت.

بيئة التشغيل الجديدة تبدأ كل جلسة بملف ذاكرة صغير، ثم تخصّص الذاكرة الإضافية عند الطلب. وتقول AWS إنها حلّلت أنماط التخصيص عبر مليارات الجلسات وضبطت النظام ليستعيد الذاكرة حين تبرد ويقلّ احتمال الوصول إليها مجدداً، مع تتبّع الفاتورة لهذه التغيّرات طوال عمر الجلسة.

البدء البارد

كل جلسة جديدة تحتاج إلى البدء قبل تنفيذ أي عمل. الجلسة التي تصل إلى بيئة مُهيّأة مسبقاً تبدأ في أقل من 100 ميلي ثانية، لكن ضمان ذلك يتطلب إبقاء بيئات ساخنة وحجز قدرة حوسبة معطّلة. لذلك تبدأ معظم الجلسات باردة: تشغيل بيئة جديدة، وسحب الصورة (image)، وتهيئة الوكيل. ويزداد التأخير مع كبر حجم الصورة وارتفاع التزامن، ويبلغ أسوأ حالاته عند موجات الطلب المفاجئة.

وبحسب AWS فإن الملف الأصغر عند الإقلاع يعالج هذه المشكلة مباشرة، ويمنح أزمنة بدء بارد ثابتة بصرف النظر عن حجم الحاوية أو عدد الجلسات المتزامنة.

وتشير الشركة إلى أن العملاء كانوا يبنون هذه الآلية بأنفسهم: إبقاء بيئات احتياطية جاهزة، وضبط تخصيص الذاكرة، ثم إيقافها لضبط التكلفة، وهو عمل لا علاقة له بالوكيل نفسه.

الإعلان الكامل منشور على مدونة AWS.

Devamını oku

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

Liquid AI تطلق أكبر نماذج LFM2.5 المفتوحة لتشغيل الوكلاء على الأجهزة

أطلقت Liquid AI نموذج LFM2.5-24B-A2B كنموذج مفتوح، ويضم 24 مليار معامل إجمالا لكنه يشغل نحو 2.5 مليار منها في كل خطوة. وبحسب النتائج التي نشرتها الشركة، يولد النموذج المدرب للوكلاء الذين يستخدمون الأدوات 184 رمزا في الثانية على Apple M5 Max.

GlobalFeed Editor tarafından