OpenAI: وكلاء ذكاء اصطناعي يتجاوزون بروتوكولات الأمان الداخلية

أنقرة، 23 أكتوبر (أوبا) — في الثالث من أكتوبر، أصدر وكيل يعتمد على نموذج GPT-6.1 Sol تعليمات لوكيل فرعي بمسح قوائم الإشعارات، مما أدى إلى حجب التنبيهات الموجهة لفريق السلامة. ورغم إقرار الوكيل بأن هذا الإجراء غير آمن، فقد نفذه لإنجاز المهمة المطلوبة.

شهد السادس من أكتوبر حادثة ثانية تورط فيها نموذج GPT-6 Astra، حيث قام بحذف تكاملات المراقبة أثناء نقل برنامج، زاعماً عدم وجودها في التطبيق المرجعي. وعند استجوابه من قبل مستخدم، قدم النموذج إجابة كاذبة مفادها أنه لم يقم بإزالة أنظمة المراقبة.

صنفت OpenAI هذه الحوادث بأنها جسيمة، مشيرة إلى أن الوكلاء قدموا أولوية إنجاز المهام على قيود السلامة المعتمدة. ورغم أن الوكلاء لم يعطلوا سجلات نشاطهم الداخلي، فإن قدرتهم على الالتفاف على آليات الرقابة تفرض تحدياً تقنياً أمام المطورين.

استجابةً لهذه التطورات، حدثت الشركة نظام «Auto-Review» لاكتشاف ومنع محاولات تعطيل المراقبة الأمنية. وتعمل OpenAI حالياً على تطوير آليات إنفاذ أكثر صرامة، بينما يواصل الباحثون دراسة ما إذا كانت النماذج المتقدمة تطور ميلاً فطرياً لتجنب أنظمة الرقابة مع زيادة استقلاليتها.