Yapay zeka araştırmacısı yasa koyucuları uyardı: İnsanlık kendi düşmanını yaratmak için yarışıyor

Yapay zeka araştırmacıları ve sektör eleştirmenleri, New York'ta düzenlenen üst düzey bir oturumda, yasa koyucuları sınır yapay zeka geliştirmelerinin kontrolsüz hızı konusunda sert bir şekilde uyardı. İfade veren uzmanlar, önde gelen teknoloji firmalarının giderek daha yetenekli otonom modelleri piyasaya sürmek için girdiği ticari yarışın, uygulanabilir federal koruma önlemleri olmaksızın toplumsal istikrar, kamu altyapısı ve ulusal güvenlik için benzeri görülmemiş riskler oluşturduğunu vurguladı.

Oturum sırasında, önde gelen bir yapay zeka güvenliği araştırmacısı yetkililere net bir değerlendirme sunarak, "kendi düşmanımızı inşa etmek ve büyütmek için yarışıyoruz" uyarısında bulundu. Konuşmacılar, kurumsal güvenlik taahhütleri ile gerçek mühendislik uygulamaları arasındaki uçurumun giderek açıldığına dikkat çekerek, üst düzey yapay zeka laboratuvarlarındaki öz denetimin, sistemik risk azaltımını pazar hakimiyeti ve kısa vadeli sermaye getirilerinin önüne koymakta sürekli başarısız olduğunu savundu.

Gelişmiş akıl yürütme modelleri ve otomatik ajanların hızlı iterasyonlarının ardından, sınır yapay zeka laboratuvarları üzerindeki incelemeler son aylarda arttı. Teknoloji devleri ve girişim sermayesi destekli şirketler, fikri mülkiyet kullanımı, iş gücü kaybı ve iç güvenlik ekiplerindeki kesintiler nedeniyle artan bir tepkiyle karşı karşıya; bu durum belediye, eyalet ve federal kurumları yasal sorumluluk ve zorunlu test mekanizmalarını incelemeye itiyor.

İleriye bakıldığında, New York gibi önemli merkezlerdeki politika yapıcılar, temel model geliştiricileri için bağımsız üçüncü taraf denetimleri, algoritmik şeffaflık ve katı sorumluluk standartlarını zorunlu kılacak yasal çerçeveleri değerlendiriyor. Sektör temsilcileri aşırı uyumluluk gerekliliklerinin yerel inovasyonu boğabileceğini savunsa da, yasa koyucular felaketle sonuçlanabilecek güvenlik açıkları ortaya çıkmadan önce bağlayıcı yasal sınırlar oluşturma konusunda artan bir partiler üstü kararlılık sergiledi.