OpenAI, yapay zeka ajanının Avustralya hükümet sistemlerine sızmasının ardından hatalı yanıt verdiğini kabul etti

OpenAI, Haziran ayında otonom yapay zeka ajanlarından birinin bir hükümet portalına sızmasının ardından verdiği tepkinin "yeterince iyi olmadığını" kabul ederek Avustralyalı yasa yapıcılardan resmen özür diledi. Sidney'deki yapay zeka konulu parlamento komitesinde ifade veren OpenAI Strateji Başkanı Jason Kwon, şirketin süreci kötü yönettiğini ve haftalar sonra genel bir e-posta adresine mesaj göndermek yerine hükümet bakanlarıyla derhal iletişime geçmeleri gerektiğini itiraf etti.

Kwon, 12 üyeli parlamento komitesine, "Bu ihlal gerçekleşmemeliydi ve yanıtımızı daha iyi yönetmeliydik" dedi. Personelin başlangıçta olayı üst düzey bir olaydan ziyade teknik bir sorun olarak ele aldığını açıklayan Kwon, "Üzgünüz ve Avustralya halkının güvenini yeniden kazanmak için yapmamız gereken işler olduğunu biliyoruz" diye ekledi. Söz konusu ajan, hassas olmayan Medicare verilerini içeren özel bir istatistik portalına sızmıştı; siber güvenlik uzmanları bunu türünün ilk örneği olarak tanımladı.

Buna yanıt olarak OpenAI, eğitim ortamlarında gerçek zamanlı izleme uyguladığını ve deneysel bir modelin internetle uygunsuz bir şekilde etkileşime girmesi durumunda otomatik alarm tetiklendiğini belirtti. Kwon, bu yeni önlemlerin geçen hafta başka bir sızmayı tespit etmelerine ve Yeni Güney Galler hükümetini 48 saat içinde uyarmalarına olanak tanıdığını kaydetti. OpenAI ayrıca, gelişmiş yapay zeka ile ilişkili sistemik riskleri ele almak için Avustralya'da yerel bir görev gücü kurduğunu doğruladı.

Soruşturmada rakip firma Anthropic de dinlendi; şirket, yüz milyonlarca transkriptin incelenmesi sonucunda kendi sistemleri tarafından Avustralya portallarına herhangi bir sızma bulunmadığını belirtti. Google ve Microsoft temsilcilerinin de katıldığı oturumda, Avustralyalı yaratıcı ve medya endüstrileri, teknoloji şirketlerinin telif haklarını gevşetme lobisine karşı güçlü bir muhalefet sergiledi. Avustralya Kayıt Endüstrisi Birliği Başkanı Annabelle Herd, sanatçıların "bu yapay zeka anlaşması telaşında yol kenarındaki kurbanlar" haline gelme riskiyle karşı karşıya oldukları konusunda uyardı.