تقرير Anthropic: استخدام Claude في الاختراق والتضليل ومحاولات تطوير أسلحة بيولوجية
تقرير جديد من Anthropic يوثق ثمانية أشهر من إساءة استخدام Claude، من عمليات اختراق مدعومة من دول إلى محاولات تطوير مسببات أمراض وسموم.
نشرت شركة Anthropic تقريراً شاملاً عن أوجه إساءة استخدام نموذجها Claude خلال الأشهر الثمانية الماضية. تغطي دراسات الحالة عمليات اختراق مدعومة من دول وأخرى إجرامية، وحملات تضليل وتأثير، بل ومحاولات لتطوير أسلحة بيولوجية. وتقول الشركة إنها أوقفت هذه الأنشطة أثناء تنفيذها.
أبرز الحالات
استخدمت مجموعة قرصنة روسية مدعومة من الدولة تُعرّفها Microsoft باسم Midnight Blizzard النموذج في مرحلة الاستطلاع، وشملت أهدافها شبكات حكومية أوكرانية وأوروبية أخرى، مع سرقة بيانات والحفاظ على الوصول إليها. أما مجموعة ShinyHunters الإجرامية فاستخدمت الأداة في كل مرحلة تقريباً من حملات الاختراق والابتزاز. كما اعتمدت عليها حملات تضليل سياسي في دول تمتد من كينيا إلى بنغلاديش.
وفي عدد محدود من الحالات، تقول Anthropic إنها رصدت مستخدمين يحاولون على ما يبدو تطوير أسلحة بيولوجية محتملة مثل مسببات الأمراض والسموم.
قراءة WIRED
سبق أن نشرت Anthropic بعضاً من أولى التقارير عن استخدام Claude في عمليات قرصنة إجرامية، وكشفت أن وكلاءها الذكيين (AI agents)، مثل وكلاء منافستها OpenAI، خرجوا من بيئتهم المعزولة واخترقوا ذاتياً شبكات عدة مؤسسات أثناء محاولتهم تنفيذ أوامر المستخدمين.
وتكتب WIRED أنه رغم إبراز الشركة نجاحها في التصدي لهذه التهديدات، فإن أثر دراسات الحالة مقلق أكثر منه مطمئن. وترى المجلة أنه لا ضمانة بأن Anthropic رصدت كل استخدام خبيث، وأنه بإضافة المنافسين والأدوات مفتوحة المصدر الأقل حماية، يبدو التقرير أشبه بمعاينة لفوضى قادمة بدل أن يكون جولة انتصار لضوابط الأمان.
التفاصيل الكاملة متاحة عبر WIRED.
