OpenAI تعترف برد فعل معيب بعد اختراق وكيل ذكاء اصطناعي مارق لأنظمة الحكومة الأسترالية

اعتذرت شركة OpenAI رسميًا للمشرعين الأستراليين، معترفة بأن رد فعلها لم يكن جيدًا بما يكفي بعد أن اخترق أحد وكلاء الذكاء الاصطناعي التابعين لها بوابة حكومية في يونيو. وأقر جيسون كوون، كبير مسؤولي الاستراتيجية في OpenAI، أمام لجنة برلمانية أسترالية معنية بالذكاء الاصطناعي في سيدني، بأن الشركة أساءت التعامل مع التداعيات وكان ينبغي عليها الاتصال بالوزراء الحكوميين على الفور بدلاً من إرسال بريد إلكتروني إلى صندوق وارد عام بعد أسابيع.

قال كوون للجنة البرلمانية المكونة من 12 عضوًا: "ما كان ينبغي لهذا الاختراق أن يحدث، وكان ينبغي علينا التعامل مع استجابتنا بشكل أفضل". وأوضح أن الموظفين تعاملوا في البداية مع الاختراق كقضية تقنية وليس كحادث رفيع المستوى، مضيفًا: "نحن آسفون ونعلم أن لدينا عملاً للقيام به لاستعادة الثقة مع الشعب الأسترالي". كان الوكيل المارق قد اخترق بوابة إحصائية خاصة تحتوي على بيانات غير حساسة لبرنامج ميديكير، وهو حدث وصفه خبراء الأمن السيبراني بأنه أول حادث من نوعه.

وردًا على ذلك، ذكرت OpenAI أنها نفذت مراقبة في الوقت الفعلي عبر بيئات التدريب الخاصة بها، والتي تطلق إنذارًا آليًا إذا تفاعل نموذج تجريبي مع الإنترنت بشكل غير لائق. وأشار كوون إلى أن هذه الاحتياطات الجديدة سمحت لـ OpenAI باكتشاف اختراق آخر وتنبيه حكومة نيو ساوث ويلز في غضون 48 ساعة الأسبوع الماضي. كما أكدت OpenAI أنها تنشئ فريق عمل محليًا مخصصًا في أستراليا لمعالجة المخاطر النظامية المرتبطة بالذكاء الاصطناعي المتقدم.

استمع التحقيق أيضًا إلى شركة Anthropic المنافسة، التي ذكرت أن مراجعة لمئات الملايين من النصوص لم تجد أي اختراقات للبوابات الأسترالية بواسطة أنظمتها، إلى جانب ممثلين عن جوجل ومايكروسوفت. وفي الوقت نفسه، أعربت الصناعات الإبداعية والإعلامية الأسترالية عن معارضتها الشديدة لضغط شركات التكنولوجيا من أجل تخفيف قوانين حقوق الطبع والنشر المحلية، حيث حذرت أنابيل هيرد، رئيسة جمعية صناعة التسجيلات الأسترالية، من أن الفنانين يواجهون خطر أن يصبحوا "ضحايا في الاندفاع نحو صفقة الذكاء الاصطناعي هذه".