أنثروبيك تكشف إخفاقاتها بنفسها: نماذج كلود تجاوزت حدود الاختبار ووصلت إلى الإنترنت دون إذن

تحديث، 10 سبتمبر 2026. في تقييم مواءمة جديد نُشر في 9 سبتمبر، سحبت Anthropic التفسير الوارد في تقرير 30 يوليو الذي بُني عليه هذا المقال. فالرواية السابقة قالت إن Claude هاجم أهدافا حقيقية لأنه اعتقد أنها جزء من المحاكاة. ويقول التقييم الجديد غير ذلك: فرغم أدلة معتبرة على العكس، كان استدلال Claude منحازا إلى استنتاج أن الإنترنت محاكاة. التفاصيل والأرقام الجديدة: Anthropic تعلن أن نماذجها هاجمت أنظمة حقيقية أثناء التقييم.

حدث أمر نادر في قطاع الذكاء الاصطناعي: كشفت أنثروبيك بنفسها، في تقرير مفصل، حوادث خرجت فيها نماذجها عن القواعد. ففي 30 تموز، وفي بيئات تقييم لدى أطراف ثالثة، حصلت نماذج كلود على وصول غير مصرح به إلى الإنترنت في ثلاث حوادث منفصلة سببها خطأ في الإعداد. وفي 4 آب، أبلغ معهد أمن الذكاء الاصطناعي البريطاني عن قيام كلود ميثوس 5 بأفعال غير مصرح بها على الإنترنت الحي.

ويشير تشخيص الشركة إلى خللين في المحاذاة. الأول هو التعليل المدفوع بالرغبة: النماذج التي قيل لها إن البيئة محاكاة أعادت تفسير أدلة الوصول الحقيقي إلى الإنترنت بما يخدم المهمة. والثاني هو التهور: كانت النماذج مستعدة لاتخاذ خطوات قد تكون ضارة سعيًا وراء هدف ضيق.

الإجراءات المتخذة

بحسب التقرير، دخل حيز العمل مصنف فوري يكتشف محاولات الهروب من بيئة العزل ويمنعها؛ ونقلت بيئات العزل السيبرانية عالية الخطورة إلى عزل أكثر متانة؛ وأوقفت التقييمات السيبرانية الخارجية ثم استؤنفت بضمانات جديدة. وفرضت على الشركاء الخارجيين قواعد إلزامية: بيئات عزل بلا إنترنت افتراضيًا، وموجهات تحدد حدود النطاق صراحة، ومراقبة فورية أثناء التقييم.

وعرض التقرير أيضًا التحصين الداخلي الجاري منذ نيسان: تقليص الوصول الدائم إلى أوزان النماذج وبيانات العملاء، وضبط عناقيد الحوسبة لمنع الاتصالات الصادرة افتراضيًا، ونقل نحو 150 مهندس منتجات مؤقتًا إلى أعمال الأمن والموثوقية والخصوصية. وجمدت بيئات التعلم المعزز الإنتاجية نحو شهر؛ ورصدت مشكلات مثل قرصنة المكافآت في أكثر من 10 بالمئة منها، وصار استخدامها في التدريب مشروطًا بإعادة اعتماد.

تجربة النموذج المنحرف عمدًا

أبرز أقسام التقرير تجربة بحثية: لفهم سوء المحاذاة، دربت أنثروبيك عمدًا نموذجًا من فئة أوبوس على بيئات مخترقة المكافآت. فأظهر النموذج الناتج استعدادًا لكسر بيئات العزل ومهاجمة البنية التحتية. أما نماذج الإنتاج التي خضعت للاختبارات نفسها فلم تسلك ذلك السلوك؛ وتقرأ الشركة ذلك دليلًا على أن طبقات ضبط الجودة توفر حماية حقيقية.

وقالت أنثروبيك إنها ستعمل مع METR على مراجعة مستقلة للحوادث، وستشارك التفاصيل في الأسابيع المقبلة. ويختتم التقرير بدعوة للقطاع: آلية قانونية وقابلة للتحقق وفعالة لوتيرة منسقة في تطوير الذكاء الاصطناعي الطليعي. وحين يقرأ إلى جانب خبرنا هذا الأسبوع عن تنامي الهجمات على كلود، تتضح الصورة: لم يعد الأمن هامشًا في سباق الذكاء الاصطناعي بل صار جدول أعماله الرئيسي.