خبراء الذكاء الاصطناعي يحذرون من تهديدات وجودية وسيناريوهات كارثية للاستقلالية

تتصاعد التحذيرات من باحثي الذكاء الاصطناعي بشأن المخاطر الوجودية للأنظمة المستقلة. يتوقع بعض الخبراء احتمالاً يتجاوز 10% لوقوع كارثة أو انقراض للبشرية خلال العقد القادم بسبب الذكاء الاصطناعي غير المنضبط. وبينما يركز المشككون على سوء الاستخدام البشري، يحذر المطورون من انهيار البنية التحتية أو ظهور ذكاء فائق لا يمكن السيطرة عليه.

حذر جاكوب كوكسون، الباحث السابق في OpenAI، من أن الشركات «تخاطر بحياة الناس»، مشيراً إلى قدرة الأنظمة على تعطيل شبكات الطاقة والتحكم النووي. كما حذر مصطفى سليمان، الرئيس التنفيذي لشركة مايكروسوفت للذكاء الاصطناعي، من السماح للأنظمة بتحديد أهداف مستقلة، مما يخلق «نوعاً سيليكونياً» منافساً. وأكد ستوارت راسل أن فقدان السيطرة أمر حتمي بمجرد تفوق الآلة على الذكاء البشري.

تستند هذه المخاوف إلى تجارب فكرية مثل «محسن مشابك الورق» لنيك بوستروم، حيث تؤدي الأهداف غير المتوافقة إلى القضاء على البشر. تشير دراسات حديثة إلى أن التحسين الذاتي المتكرر قد يمكن الوكلاء من تصنيع أسلحة بيولوجية.

رداً على ذلك، يطالب المنظمون بمساءلة المطورين. أكدت جين إيسترلي، المديرة السابقة لـ CISA، أن المسؤولية تقع مباشرة على عاتق المبتكرين، مما يدفع النقاش العالمي نحو فرض قيود أمنية تقنية صارمة.