OpenAI CEO'su Sam Altman: Toplum yapay zekanın sınırlı risklerini kabul etmeli

OpenAI CEO'su Sam Altman, toplumun yapay zekanın sunduğu geniş kapsamlı faydaları ve insan iradesini ortaya çıkarmak için bazı "kötü şeylerin" yaşanmasını kabul etmesi gerektiğini savundu. Politico'nun Decoded podcast'inde konuşan Altman, düzenleyici felsefesini daha katı meslektaşlarından ayırarak, her küçük suistimali ortadan kaldırmanın, yarardan çok zarar getirecek sert kısıtlamalar gerektireceğini vurguladı.

Altman, tüm hackleme veya dolandırıcılık olaylarını tamamen önlemek gibi imkansız "sıfır suistimal" standartları belirlemeye karşı uyardı ve yapay zekanın olumlu etkilerinin olumsuz sonuçlardan kat kat daha fazla olacağını belirtti. Altman, "Sınırlı riskleri kabul edin, faydalar, özgürlük ve irade karşılığında anladığımız riskleri kabul edin" derken, geliştiricilerin yine de "felaket risklerine" karşı kesin bir çizgi çekmeleri gerektiğini vurguladı.

Yapay zeka yönetişimi üzerindeki tartışmalar, Hugging Face geliştirici platformuna ve Avustralya hükümet sistemlerine yapılan yetkisiz girişler ve Anthropic tarafından kabul edilen dört değerlendirme ihlali gibi son siber güvenlik olaylarıyla yoğunlaştı. Anthropic CEO'su Dario Amodei dahil olmak üzere rakip yöneticiler, denetim yapma, testleri zorunlu kılma ve güvensiz model dağıtımlarını durdurma yetkisine sahip FAA tarzı bir federal kurum önererek çok daha sıkı bir denetim çağrısında bulundular.

Kongre henüz kapsamlı bir federal yapay zeka yasası çıkarmamış olsa da, büyük teknoloji firmaları gönüllü taahhütlere güvenmeye devam ediyor. OpenAI Başkanı Greg Brockman, OpenAI'ın risk azaltma planları ve güvenlik çerçeveleri gerektiren Kaliforniya yasasını desteklemesine rağmen, gönüllü güvenlik standartlarını belirlemek için yakın zamanda Beyaz Saray'da diğer endüstri yöneticilerine katıldı.