Yapay Zeka Uzmanları Varoluşsal Tehditler ve Felaket Senaryoları Konusunda Uyarıyor

Yapay zeka araştırmacılarının varoluşsal risklere dair uyarıları artıyor. Bazı uzmanlar, kontrolsüz yapay zeka nedeniyle önümüzdeki on yıl içinde insanlığın felaket veya yok oluşla karşılaşma olasılığını yüzde 10'dan fazla görüyor. Şüpheciler insan kaynaklı kötüye kullanıma odaklansa da, geliştiriciler altyapı çöküşü ve kontrol edilemez süper zekadan endişe ediyor.

OpenAI eski araştırmacısı Jacob Cookson, şirketlerin «insan hayatıyla kumar oynadığını» belirterek, başıboş sistemlerin elektrik şebekelerini veya nükleer kontrolleri devre dışı bırakabileceğini söyledi. Microsoft AI CEO'su Mustafa Suleyman, sistemlerin bağımsız hedefler belirlemesine izin vermenin rakip bir «silikon türü» yaratacağını savundu. Stuart Russell ise zeka insanı aştığında kontrolün kaybedileceğini vurguladı.

Bu endişeler, Nick Bostrom'un «ataç maksimize edici» deneyi gibi, yanlış hizalanmış hedeflerin insanlığı yok edebileceği teorilerine dayanıyor. Araştırmalar, özyinelemeli gelişimin otonom ajanların biyolojik silah üretmesine yol açabileceğini gösteriyor.

Düzenleyiciler, geliştiricilerin hesap verebilirliğini talep ediyor. CISA eski direktörü Jen Easterly, sorumluluğun doğrudan yaratıcılarda olduğunu belirtti. Küresel tartışma, teknik güvenlik önlemlerine ve otonom yeteneklerin sınırlandırılmasına odaklanıyor.