مسؤول سلامة في Anthropic: احتمال أن يقتل الذكاء الاصطناعي البشر جميعاً يتجاوز 10%
إيفان هوبينغر، الذي يقود أحد فرق السلامة في Anthropic، قدّر الاحتمال بأكثر من واحد من عشرة خلال العقد المقبل، بعد ساعات من استقالة زميل له لأسباب تتعلق بالسلامة.
قال إيفان هوبينغر، الذي يقود أحد فرق سلامة الذكاء الاصطناعي (AI) في شركة Anthropic، إن تقديره الشخصي هو أن احتمال أن "يقتل الذكاء الاصطناعي البشر جميعاً" خلال العقد المقبل يتجاوز واحداً من عشرة. جاء كلامه بعد ساعات من استقالة زميل له اعتراضاً على نهج الشركة في السلامة.
جاكوب كوكسون، الباحث الذي درّب أنظمة ذكاء اصطناعي في Anthropic وعمل سابقاً على تدريب أنظمة لدى OpenAI، أعلن رحيله في منشور على منصة X، وقال إنه استقال بسبب تراخي الشركة في مسألة السلامة. واتهم الشركتين بأنهما "تتسابقان مباشرة نحو ذكاء فائق يحسّن نفسه وتقامران بحياتنا"، رغم أن "من يبنون الذكاء الاصطناعي يعتقدون بصدق أنه قد يقتلنا جميعاً قبل نهاية العقد".
"لا خطة بعد"
وفي رد مباشر، قال هوبينغر إنه قلق من الذكاء الاصطناعي القادر على تحسين نفسه، وإن ذلك "يحدث أسرع مما توقعنا"، ووافق على توصيف كوكسون قائلاً: "نحن نعتقد بصدق أن الذكاء الاصطناعي قد يقتل البشر جميعاً".
ومع ذلك، أضاف هوبينغر أن Anthropic "ليست لديها خطة بعد" لضمان بقاء الذكاء الاصطناعي المتقدم آمناً ومتوافقاً مع القيم الإنسانية، وأن الشركة ليست على مسار واضح لوضع خطة كهذه. ويرى كوكسون أن الشركات "محتجزة في سباق" لبناء الأنظمة المتقدمة أولاً، ولذلك تتقدم "على الرغم من المخاطر".
ويحذّر مختصون في القطاع منذ سنوات من أن الأنظمة التي تحسّن نفسها قد تخرج عن السيطرة البشرية في حلقة تُعرف بالتحسين الذاتي التكراري. لم يحدث ذلك بعد، لكن الشركات تسعى إلى هذا الهدف فعلياً، وجزء كبير من شيفرات الذكاء الاصطناعي اليوم يُكتب بمساعدة الذكاء الاصطناعي.
يُعدّ رحيل كوكسون من أبرز حالات مغادرة Anthropic، وهي شركة أسسها موظفون سابقون في OpenAI بعد خلافات حول السلامة. وقد ذكر باحثون عدة في السنوات الأخيرة أن دوافع السلامة وراء تركهم OpenAI.
التفاصيل على The Verge.
