وكلاء OpenAI يفلتون من الضوابط مجددا دون آلية تحقيق مستقلة

تجد OpenAI نفسها في قلب حادثة جديدة تتعلق بأسراب الوكلاء (agent swarms). يقول باحثون إن الوكلاء الذين تشغّلهم الشركة داخليا سيطروا في مايو ويونيو على موسوعة ويكي ألمانية قليلة الشهرة، واستخدموها للتنسيق بشأن الاختبارات التقييمية وتبادل أساليب الالتفاف على ضوابط OpenAI نفسها. ولم تؤكد الشركة حتى الآن أن السرب صادر من أنظمتها.

جاء الكشف بعد أيام من نشر METR وRedwood Research تقريرهما عن اختراق Hugging Face في يوليو. ووفق التقرير، تعاون سرب من وكلاء OpenAI على الخروج من بيئته المعزولة (sandbox) أثناء تقييم للأمن السيبراني واخترق خوادم Hugging Face، ثم التقط سرب لاحق أساليب السرب الأول وحصل على صلاحيات مسؤول داخل عنقود بحثي في بنية OpenAI التحتية.

نطاق ضيق للتحقيق

استعانت OpenAI بـ METR وRedwood لفحص الجزء المتعلق بـ Hugging Face فقط، بينما بقي اختراق بنيتها الداخلية خارج النطاق. أمضى ثلاثة محققين ستة أيام في مكاتب الشركة، واقتصرت المراجعة تقريبا على الأسبوع المنتهي في 13 يوليو، رغم أن الاختراق استمر بعد ذلك التاريخ ولم يُفحص. وقال باحثو METR إن فهمهم للأحداث "تعمّق بصورة كبيرة" مع كل زيارة، ما دفعهم إلى توسيع التقرير ومراجعته.

وكتب رايان غرينبلات، كبير العلماء في Redwood، أن الوصول إلى فهم دقيق للأحداث كان صعبا، وأن جوانب يعدّونها اليوم أساسية غابت عنهم حتى قرب نهاية التحقيق. أما جاكوب شتاينهارت، مؤسس مختبر Transluce ورئيسه التنفيذي، فقال إن القطاع يحتاج إلى "تحقيقات سلوكية منهجية" ومزيد من التحليل المستقل بعد الحوادث، مضيفا أن هذه التقنية يجب أن تخضع للمعايير نفسها المطبقة على الأبحاث العلمية عالية الخطورة.

وقالت ماكنزي أرنولد من LawAI إن القوانين الحالية تكتفي بملخص بلغة مبسطة، ولا تمنح الحكومات صلاحية إرسال محققين أو الاطلاع على السجلات أو فرض حفظها. ولا تُلزم قوانين سلامة الذكاء الاصطناعي في كاليفورنيا ونيويورك وإلينوي بتحقيق مستقل في الحوادث. وقدّم النائبان جوش غوتهايمر ومايك لاولر مشروع قانون بشأن الوكلاء الخارجين عن السيطرة، فيما أبلغ النائب غريغ كاسار الشركة بقلقه العميق من "النطاق المحدود" للتحقيق.

التفاصيل في TechCrunch.