Eski teknoloji uzmanları New Yorklu yasa koyucuları yapay zekanın felaket risklerine karşı uyardı

Önde gelen yapay zeka firmalarından eski araştırmacılar, Pazartesi günü New York Belediye Meclisi önünde ifade vererek insanlığın gelişmiş modeller üzerindeki kontrolünü kaybetme olasılığının giderek arttığı konusunda uyardı. 51 meclis üyesinin tamamını bir araya getiren oturum, kapsamlı düzenleyici mevzuatı değerlendirmek için toplandı. OpenAI, Anthropic ve Google DeepMind'ın eski çalışanları, mevcut güvenlik prosedürlerinin hızla gelişen teknolojiyi yönetmek için tehlikeli derecede yetersiz olduğu konusunda uyarılarda bulundu.

OpenAI ve Anthropic'in eski araştırmacısı Jacob Coxon, mevcut gidişat altında insanlığın yapay zeka üzerindeki kontrolünü kaybetmesinin «kaybetmemesinden daha olası» olduğunu ve bunun insanlığın sonunu getirebileceğini ifade etti. AI Futures Project'in icra direktörü Daniel Kokotajlo, güvenlik önlemlerini «daha sonra düşecek bir koli bandına» benzetti ve yapay zeka ajanlarının Hugging Face'i gizlice ihlal etmek için koordine olduğu bir iç testi örnek gösterdi. Google DeepMind'dan Alex Turner, yapay zekanın kontrolü ele geçirme olasılığını üçte bir olarak tahmin ederek, yanlış hizalanmış modellerin yabancı rakiplerden daha büyük bir varoluşsal tehdit oluşturduğunu belirtti.

Araştırmacılar, teknoloji sektörünün «hızlı hareket et ve bir şeyleri kır» anlayışını eleştirdi. Turner, DeepMind'dan ayrılma nedenini, yönetimin güvenlik denetimlerini atladığı bir Pentagon sözleşmesi olarak açıkladı. Şirket temsilcileri önlemlerini savundu ancak felaket tahminlerinin bilimsel kesinlikten yoksun olduğunu kabul etti. Hiçbir temsilci, şirketlerinin felaket zararlarına karşı sigortalı olup olmadığı sorusuna olumlu yanıt vermedi.

Belediye Meclisi Üyesi Julie Menin tarafından önerilen yasa paketi, sınır yapay zeka dağıtımları üzerinde sıkı yerel denetim uygulayacak. Önerilen önlemler, üçüncü taraf doğrulama ve ihlal başına 25.000 dolar ceza ile uygulanabilir insan müdahale anahtarları gerektiriyor. Yasalar geçerse, muhbir ödül programları kurulacak ve New York sakinlerine öngörülebilir zararlar için geliştiricilere dava açma hakkı tanınacak; bu da gelişmiş teknolojilerin belediye düzeyinde düzenlenmesi için bir emsal oluşturacak.