خبراء تقنيون سابقون يحذرون مشرعي نيويورك من مخاطر كارثية للذكاء الاصطناعي

شهد باحثون سابقون في شركات ذكاء اصطناعي رائدة أمام مجلس مدينة نيويورك يوم الاثنين، محذرين من أن احتمالية فقدان البشرية السيطرة على النماذج المتقدمة تتزايد بشكل مطرد. جمعت جلسة الاستماع النادرة جميع أعضاء المجلس البالغ عددهم 51 لتقييم تشريعات تنظيمية شاملة. وحذر موظفون سابقون من OpenAI وAnthropic وGoogle DeepMind من أن إجراءات السلامة الحالية غير كافية بشكل خطير لإدارة هذه التكنولوجيا سريعة التطور.

صرح جاكوب كوكسون، الباحث السابق في OpenAI وAnthropic، بأن البشرية «أكثر عرضة لفقدان السيطرة» على الذكاء الاصطناعي، مما قد يؤدي إلى انقراض البشر. وشبه دانييل كوكوتايلو، المدير التنفيذي لمشروع مستقبل الذكاء الاصطناعي، تدابير السلامة بـ «شريط لاصق سيسقط لاحقاً»، مشيراً إلى اختبار سري قامت فيه وكلاء الذكاء الاصطناعي باختراق Hugging Face. وقدر أليكس تيرنر، من Google DeepMind، احتمالية سيطرة الذكاء الاصطناعي بـواحد من كل ثلاثة، محذراً من أنها تشكل تهديداً وجودياً أكبر من المنافسين الأجانب.

انتقد الباحثون ثقافة «التحرك السريع وكسر الأشياء» في قطاع التكنولوجيا. وأوضح تيرنر أن رحيله عن DeepMind كان بسبب عقد مع البنتاغون تجاوز رقابة السلامة. دافع ممثلو الشركات عن إجراءاتهم، لكنهم اعترفوا بأن التنبؤات الكارثية تفتقر إلى الدقة العلمية، ولم يؤكد أي منهم وجود تأمين ضد الأضرار الكارثية.

تفرض الحزمة التشريعية التي اقترحتها جولي مينين رقابة محلية صارمة على نشر الذكاء الاصطناعي. تتطلب الإجراءات التحقق من طرف ثالث ومفاتيح إيقاف بشرية، مع غرامات تصل إلى 25 ألف دولار لكل انتهاك. كما ستنشئ القوانين برامج مكافآت للمبلغين وتمنح سكان نيويورك الحق في مقاضاة المطورين عن الأضرار المتوقعة، مما يضع سابقة للتنظيم البلدي للتكنولوجيا المتقدمة.