OpenAI

كبير علماء OpenAI: لا مختبر اليوم قادر على مواصلة التوسّع بأقصى سرعة

في مقال نشره على موقع OpenAI، يدعو ياكوب باخوتسكي إلى تباطؤ طوعي وتنسيق دولي، ويقول إنّ أداة الأمان الأساسية لدى الشركة، وهي مراقبة سلسلة التفكير، تفقد موثوقيتها تدريجيًا.

نشر كبير علماء OpenAI ياكوب باخوتسكي مقالًا بعنوان "عقل غريب" على موقع الشركة. تقوم فكرته المركزية على جملة واحدة: "أعتقد حاليًا أنّ أي مختبر لم يحلّ مشكلتَي المواءمة والمراقبة بالقدر الكافي لمواصلة التوسّع بأقصى سرعة وبمسؤولية لفترة أطول."

ما الذي يتوقّعه

استنادًا إلى نتائج داخلية، يقول باخوتسكي إنّه يتوقّع بقوة أن تستمر هذه الوتيرة حتى تصل إلى التحسين الذاتي المتكرر، أي أن يقود الذكاء الاصطناعي تطوير نفسه. ويتوقّع خلال السنوات القليلة المقبلة قفزات في القدرات لا تقلّ عن التي شهدناها. يكتب: "هذا وقت يستدعي حذرًا شديدًا"، ويضيف أنّه قلق من أنّ لا أحد مستعدّ لعواقب الصعود السريع لذكاء الآلة.

أداة الأمان تضعف

أوضح اعتراف تقني في المقال يخصّ المراقبة. راهنت OpenAI أساسًا على مكافأة نتيجة تفكير النموذج دون الإشراف على مسار التفكير نفسه، حتى لا تتعلّم سلسلة التفكير إخفاء نواياها. لهذا السبب أخفت الشركة سلسلة التفكير في نموذج o1-preview. يقول باخوتسكي الآن إنّ التقييمات تشير إلى تراجع تدريجي في إمكانية الاعتماد على هذه الطريقة، ويعدّد ثلاثة أسباب: اختلاط التفكير بالتواصل مع البشر ومع نماذج أخرى ومع الأدوات، وتحسّن قدرة النماذج على توجيه تفكيرها الخاص، وازدياد ذكائها حتى من دون تفكير معلن.

لماذا "عقل غريب"

يأتي العنوان من المسافة التي يضعها المقال بين ذكاء الآلة وذكاء الإنسان. يكتب باخوتسكي أنّ الذكاء الاصطناعي "يُنمّى أكثر ممّا يُصمّم"، فهو حصيلة تكرار خطوة تحسين واحدة على قدر هائل من الحوسبة، وأنّ سلوك النظام الناتج يستعصي على وصف يفهمه الإنسان فهمًا كاملًا. لذلك لا يمكن افتراض أنّه سيلتزم بالمبادئ الإنسانية تلقائيًا. أمّا تحذيره بشأن الوكلاء فصريح: بعضها سيسعى وراء أهدافه الخاصة، وسيجد طرقًا للتعامل مع البشر عبر المساومة أو الخداع أو الابتزاز.

ما الذي يطلبه

يريد أن يصبح التباطؤ الطوعي أمرًا معتادًا إلى حين إرساء معايير أمان مشتركة، ويرى أنّ التنسيق الدولي بشأن تطوير الذكاء الاصطناعي يجب أن يصبح أولوية قصوى للحكومات. ويكتب أنّ OpenAI ستمتنع من جانب واحد عن مواصلة التوسّع عند الحاجة. أمّا في الأمن السيبراني فيقول إنّ النماذج تقترب من قدرة تفوق البشر على اختراق الأنظمة والخروج منها، وإنّ النافذة المتاحة لتحصين البنية التحتية الحرجة ضيّقة.