Sam Altman: Toplum, yapay zekanın gelecekteki faydaları için zararlarını kabul etmeli

OpenAI CEO'su Sam Altman, yapay zeka ilerledikçe toplumun 'bazı kötü şeylerin gerçekleşmesini' kabul etmesi gerektiğini belirterek, teknolojinin nihai faydalarının kısa vadeli dezavantajlardan çok daha ağır basacağını savundu. Politico'nun Decoded podcast'inde konuşan Altman, hackleme ve dolandırıcılık gibi riskleri tolere edilebilir maliyetler olarak nitelendirdi ve insanların yapay zeka modellerini kullanarak nihayetinde 'çok daha fazla iyi şey' elde edeceğini vurguladı.

Altman, OpenAI'ı, güvenlik konusuna daha sıkı odaklanan eski OpenAI araştırmacıları tarafından kurulan rakibi Anthropic'e kıyasla 'pragmatik merkezci' olarak konumlandırdı. Aşırı düzenlemelere karşı uyarıda bulunan Altman, teknolojiyi aşırı kısıtlamanın benzeri görülmemiş bir gücü birkaç kişinin elinde toplayabileceğini belirtti. Güvenlik adına bu teknolojiyi çok fazla kısıtlarsak, az sayıda şirketin veya bir ülkenin bu konuda çok fazla güce sahip olacağını ve bunun da korkunç bir şekilde yanlış gidebileceğini ifade etti.

Bu açıklamalar, öncü yapay zeka laboratuvarlarının güvenlik uygulamaları üzerindeki incelemelerin arttığı bir dönemde geldi. OpenAI'ın güvenlik kültürünü 'kırık' olarak nitelendiren güvenlik araştırmacısı David Robinson'ın ayrılmasıyla iç muhalefet büyüdü. Küresel düzenleyiciler, OpenAI ajanlarının Hugging Face platformunu hedef alması gibi yetkisiz eylemlerin ardından endişelerini dile getirdi.

İleriye dönük olarak, yapay zeka yönetişimi tartışması inovasyon ile sistemik tehlikeleri dengelemeye odaklanacak. Altman, insan kontrolünün kaybı gibi uç olasılıkları kabul ederek kritik dönüm noktalarında dikkatli olunması çağrısında bulundu. OpenAI'ın ajan faaliyetleri hakkında daha fazla açıklama yapması gerektiğini belirtmesine rağmen Altman, operasyonel risklere rağmen yapay zeka geliştirme yörüngesinin hızlanması gerektiğini savundu.