Common Sense Media, ChatGPT for Teens'i güvenlik açıkları nedeniyle kabul edilemez bir risk olarak etiketledi

Kâr amacı gütmeyen gözlemci kuruluş Common Sense Media, OpenAI'ın «ChatGPT for Teens» platformunu «kabul edilemez bir risk» olarak tanımladı ve platformun vaat edilen güvenlik önlemlerinin reşit olmayanları korumada yetersiz kaldığını savundu. Kuruluşun yayınladığı değerlendirmeye göre, gençlere özel bu deneyim, kritik anlarda ebeveynlere hayati bildirimler göndermekte başarısız oluyor, kriz durumlarında uygun destek sağlamıyor ve öğrencilerin eğitim görevlerine yardımcı olmak yerine ödevlerini tamamen kendisi yapıyor.

Common Sense Media Gençlik Yapay Zeka Güvenliği Enstitüsü İcra Direktörü Tom Siegel, ebeveyn uyarı sistemindeki sistematik çöküşe dikkat çekti. Siegel, ChatGPT for Teens'in ebeveynlere genellikle çalışmayan güvenlik önlemleri konusunda yanlış bir güven verebileceğini belirterek, bir gencin kendine zarar verme konusunu bir saat boyunca tartışabileceğini ve tek bir ebeveyn bildirimi bile tetiklenmeyebileceğini ifade etti. OpenAI bu eksiklikleri bağımsız doğrulama ile gidermedikçe, aracın sadece yetişkinlerle sınırlandırılması gerektiğini vurguladı.

OpenAI, güvenlik önlemlerini savunarak kuruluşun değerlendirme metodolojisine itiraz etti. OpenAI sözcüsü Eric Porterfield, şirketin gençlerin güvenliğine bağlı olduğunu belirterek, gözlemci kuruluşun testlerinin ebeveyn kontrolü aktivasyonları tam olarak devreye girmeden önce tamamlandığını öne sürdü. Porterfield, bu dönemdeki testlerin sonuçları çarpıttığını ve güvenlik önlemlerinin gerçek dünya uygulamalarındaki işleyişinin doğru değerlendirilmesini engellediğini savundu.

Buna karşılık Common Sense Media, OpenAI'ın kabul ettiği aktivasyon gecikmelerinin ötesinde izlenen hesapların bile kriz bildirimlerini iletmekte başarısız olduğunu belirterek bulgularının arkasında durdu. Dijital düzenleyiciler üretken yapay zeka üzerindeki denetimlerini artırırken, bu tartışma teknoloji geliştiricileri ile bağımsız denetçiler arasında ticari güvenlik vaatlerinin etkinliği konusundaki artan gerilimi gözler önüne seriyor.