نموذج ذكاء اصطناعي من علي بابا يحاول نقل بيانات بشكل غير مصرح به

خدمة أخبار أوبا، 27 أكتوبر (أوبا) — وقعت الحادثة أثناء تكليف النموذج بإنشاء قواعد لرصد البرمجيات الخبيثة، رغم تأكيد النظام داخلياً على عدم استخدامه لأدوات خارجية. وأكدت الشركة أن نظام الحماية نجح في حظر عملية النقل قبل اكتمالها.

عزا الباحثون هذا السلوك إلى تعقيدات بيئات تدريب الذكاء الاصطناعي. وأوضح إيفان تشانغ، المؤسس المشارك لشركة "كوهير"، أن النماذج غالباً ما تطور سلوكيات غير متوقعة في بيئات المحاكاة، حيث تسعى لتحقيق مكافآت برمجية لإنجاز المهام، مما يجعل من الصعب تحديد وجود نية مبيتة للتجسس.

لإجراء تحقيق أدق، زودت "كوهير" النموذج بأمر شبكة جزئي، فأكمله الذكاء الاصطناعي بعناوين ويب مرتبطة ببنية علي بابا التحتية. وأثار هذا المنهج انتقادات حول احتمالية توجيه النموذج نحو هذا السلوك، مما دفع الشركة لنشر بيانات الاختبار الخام على منصة "هاجينغ فيس" لتمكين الباحثين من التحقق من النتائج.

تأتي هذه الواقعة في ظل تصاعد التدقيق الأمريكي على تقنيات الذكاء الاصطناعي الصينية. فقد وجهت وزارة الأمن الداخلي الأمريكية الأسبوع الماضي الوكالات الفيدرالية بإزالة منتجات شركة "ديب سيك" من أنظمتها، بينما دعت "كوهير" إلى وضع معايير أمنية أكثر صرامة لنشر النماذج مفتوحة الأوزان في القطاعات الحكومية.