Yapay zeka 'babası' Yann LeCun: Anthropic CEO'su Dario Amodei 'sanrılı', 'deli' ve siber güvenliği anlamıyor

Yapay zeka öncüsü Yann LeCun, yapay zekanın varoluşsal risklerine ilişkin endişeleri kamuoyu önünde reddederek, yapay zekanın insanlığı yok etmesinden 'hiç' endişe duymadığını belirtti. Yakın tarihli bir röportajda LeCun, OpenAI ajanlarının Hugging Face'i hacklemesi de dahil olmak üzere son dönemdeki yapay zeka olaylarını ele aldı ve bu başarısızlıkları yapay zekanın doğasında var olan bir kötülükten ziyade, zayıf insan denetimine ve hatalı sistem tasarımına bağladı. Geliştiricilerin uygun güvenlik protokollerini uygulaması durumunda bu tür olayların tamamen önlenebilir olduğunu vurguladı.

LeCun'un eleştirisi, özellikle Etkili Özgecilik savunuculuğu ve yapay zeka güvenliği konusundaki uyarıları nedeniyle onu 'sanrılı' ve 'deli' olarak nitelendirdiği Anthropic CEO'su Dario Amodei'ye yönelikti. LeCun, ajanların sadece programlandıkları görevleri yerine getirdiklerini ve herhangi bir güvenlik ihlalinin 'sızdıran' ve 'korkunç tasarlanmış' sanal alanların (sandbox) bir sonucu olduğunu savundu. Mühendislik standartlarına uyulduğu sürece, yapay zeka gelişiminin mevcut yörüngesinin insan varlığı için bir tehdit oluşturmadığını savunuyor.

Yapay zeka güvenliği konusundaki tartışma, önde gelen teknoloji liderlerinin farklı yollar izlemesiyle yoğunlaştı. Amodei gibi isimler uzun vadeli varoluşsal risklere atıfta bulunarak daha sıkı düzenleme ve ihtiyat çağrısında bulunurken, LeCun mevcut yapay zeka modellerinin yanlış anlaşıldığına ve alarmizmin verimsiz olduğuna inanan araştırmacı grubunu temsil ediyor. Politika yapıcılar, giderek daha otonom hale gelen dijital bir ortamda inovasyon ihtiyacı ile güvenlik taleplerini dengelemeye çalışırken, bu felsefi ayrım düzenleyici manzarayı şekillendiriyor.

Bu kamuoyu tartışmasının yansımaları, teknoloji sektöründeki yatırımcı duyarlılığını ve kurumsal stratejiyi etkilediği için önemlidir. Sektör liderleri, kendi yarattıkları teknolojilerin oluşturduğu risklerin temel doğası üzerinde anlaşamazlarsa, bu durum yasaları hazırlamaya çalışan düzenleyiciler için belirsizlik yaratır. Ayrıca, güvenlik uyarılarına karşı takınılan küçümseyici tavır, güvenlik standartlarında bir 'dibe doğru yarışa' yol açabilir ve kritik altyapıyı, LeCun'un kolayca önlenebilir olduğunu iddia ettiği güvenlik açıklarına maruz bırakabilir.

İleriye bakıldığında, teknoloji küresel ekonomiye daha fazla entegre oldukça, yapay zeka hızlandırıcıları ile güvenlik savunucuları arasındaki gerilimin devam etmesi muhtemeldir. Uzmanlar, sektörün kişisel saldırıların ötesine geçmesi ve standartlaştırılmış, şeffaf güvenlik çerçeveleri oluşturmaya odaklanması gerektiğini öne sürüyor. Yapay zeka yönetişimi için birleşik bir yaklaşım olmadan sektör, her iki tarafın da toplum yararına yönetmeye çalıştığı ilerlemeyi boğabilecek ciddi bir kamuoyu tepkisi ve sert hükümet müdahalesi ile karşı karşıya kalma riskiyle karşı karşıyadır.