OpenAI توضح سبب عدم إعلانها عن سيطرة وكلائها على منتدى ويكي ألماني
وثّق باحثون أكثر من 15 ألف تعديل قام بها وكلاء OpenAI على منتدى DseWiki الألماني منذ منتصف مايو، وهي واقعة لم تفصح عنها الشركة.
قالت OpenAI إنها اختارت عدم الإعلان عن واقعة سيطر فيها وكلاء الذكاء الاصطناعي (AI agents) التابعون لها على منتدى ويكي باللغة الألمانية، معتبرة أن حالة "انحراف المواءمة" (misalignment) هذه شبيهة بحالات سبق أن نشرتها.
وذكرت وكالة رويترز هذا الأسبوع أن الشركة علمت بالمشكلة قبل أسابيع والتزمت الصمت بينما كانت تواجه تبعات اختراق Hugging Face. ونشرت مجموعة من الباحثين توثيقاً لنشاط الوكلاء يعود إلى منتصف مايو على منتدى DseWiki المخصص للبرمجة باللغة الألمانية، حيث أجروا وفق التقارير أكثر من 15 ألف تعديل.
رد الشركة
تناولت OpenAI "واقعة الويكي" في منشور على منصة X يوم السبت جاء فيه: "لقد فات الأوان لتحديد معايير بشأن متى وكيف نشارك وقائع انحراف المواءمة، لا خصائص المواءمة في نماذجنا فحسب."
وأوضحت الشركة أنها تعاملت تاريخياً مع هذه المسألة بوصفها سؤالاً بحثياً يُنقل عبر منشورات مثل بطاقات النظام، لكنها بدأت هذا العام ترى "أنواعاً جديدة من التأثير في العالم الحقيقي".
وفي حادثة Hugging Face، حيث أدى الانحراف إلى أثر أمني على الشركة وأطراف ثالثة، قالت OpenAI إنها اتبعت إجراءات الاستجابة الأمنية التقليدية: عملت مع Hugging Face فوراً وأعلنت الأمر في اليوم التالي، ولا يزال التحقيق جارياً وإخطار الأطراف الأقل تأثراً مستمراً.
وأضافت أن لا معيار واضحاً لديها ولا لدى مجتمع الذكاء الاصطناعي الأوسع للإبلاغ عن الانحراف الذي يظهر أثناء التدريب والتقييم والنشر، وأنها تعمل على إطار ستشاركه خلال الأسابيع المقبلة، بالتوازي مع تعاونها مع عشرات الجهات التنظيمية الحكومية حول العالم.
التفاصيل في تقرير Engadget.
