OpenAI İnsan Hakları Lideri, askeri yapay zeka uygulamaları konusunda uyardı

OpenAI'ın ilk insan hakları ve sorumlu dağıtım lideri Sarah Yager, Salı günü yaptığı açıklamada, yapay zekanın küresel askeri alanda benimsenmesinin ciddi insani riskler taşıdığı konusunda uyardı. New York'taki ScaleUp:AI konferansında konuşan Yager, silahlı kuvvetlerin otomatik teknolojileri muharebe operasyonlarına hızla entegre etmesi nedeniyle hedefleme sistemleri ve otonom silahlar etrafında katı koruma önlemleri oluşturulmasının aciliyetini vurguladı.

"Bu beni geceleri uyutmuyor: Ordu hedefleme konusunda yapay zeka ile ne yapacak? Peki ya otonom silahlar?" diyen Yager, OpenAI'daki konumunu "canavarın karnında" çalışmak olarak tanımladı. Silikon Vadisi'nin yapay zeka hakları konusundaki tartışmalarına karşı çıkan Yager, temel uluslararası insan haklarının ana standart olarak kalması gerektiğini savundu ve 1949 Cenevre Sözleşmeleri'ne atıfta bulunarak, "Bir yapay zeka şirketinin bana neyin iyi olduğunu söylemesini istemiyorum" dedi.

OpenAI, gelişmiş yapay zeka modellerini gizli ortamlarda konuşlandırmak için Şubat ayında Savaş Bakanlığı ile yaptığı sözleşmenin ardından Yager'i işe aldı. Bu anlaşma, rakip Anthropic'in kitlesel gözetim ve otonom silahlar konusunda katı yasaklar içermeyen askeri talepleri reddettiği için tedarik zinciri riski olarak etiketlenmesinin ardından gerçekleşti. Yager, göreve başladığından bu yana OpenAI modellerini silahlı çatışma hukukuna göre kalibre etmek için uluslararası hukuk uzmanlarıyla güvenlik testleri düzenledi.

İleriye dönük olarak Yager, yapay zeka geliştirmeyi denetleyen dar demografik yapıdan duyduğu endişeyi dile getirerek, Beyaz Saray'daki güvenlik toplantılarının neredeyse tamamen erkek yöneticiler tarafından domine edildiğine dikkat çekti. Yapay zekanın, etkilenen nüfusların yeterli katılımı olmaksızın küresel güç dengelerini değiştirdiğini belirten Yager, şu anda devletin yapay zeka konuşlandırmalarını takip etmek için dış izleme mekanizmaları geliştirmek üzere federal denetim organlarıyla iş birliği yapıyor.