OpenAI, AB Yapay Zeka Yasası'na Uyum İçin Görünmez Metin Filigranı Başlattı

OpenAI, Pazartesi günü yaptığı açıklamada, ChatGPT ve Codex tarafından üretilen metinlere Avrupa Birliği genelinde görünmez bir filigran yerleştirmeye başlayacağını duyurdu. Bu teknik önlem, 2 Ağustos'ta yürürlüğe giren AB Yapay Zeka Yasası'nın şeffaflık gerekliliklerine uyum sağlamak amacıyla tasarlandı. Yasa, yapay zeka geliştiricilerinin ürettikleri çıktıların diğer hesaplama sistemleri tarafından tespit edilebilir olmasını zorunlu kılıyor. Özellik, önümüzdeki haftalarda AB'deki tüm abonelik seviyeleri için kullanıma sunulacak.

"textGrain" olarak adlandırılan filigran yöntemi, Yale ve Pennsylvania Üniversitesi'nden araştırmacılarla birlikte geliştirildi. Sistem, gömülü semboller yerine, bir sonraki kelime olasılıklarını gizlice değiştiren bir anahtar kullanarak, otomatik dedektörlerin tanıyabileceği istatistiksel bir desen bırakıyor. OpenAI, filigranların kullanıcı kimlik bilgilerini saklamadığını ve model performansını düşürmediğini doğruladı. Ancak testler, kelimelerin sadece yüzde 10'unun eş anlamlılarla değiştirilmesinin tespit doğruluğunu yüzde 92'den yüzde 66'ya düşürdüğünü gösteriyor.

OpenAI, filigran eksikliğinin insan yazarlığını kanıtlamadığını belirtti. Şirket, desenin sadece OpenAI sisteminin işleme dahil olduğunu gösterdiğini, ancak insan editör denetimini ölçemediğini vurguladı. Bu nedenle, tespit araçları başlangıçta sadece onaylı araştırmacılarla sınırlandırılacak.

Bu bölgesel hamle, artan düzenleyici denetimler karşısında yapay zeka sektöründeki farklı yaklaşımları vurguluyor. Büyük teknoloji firmaları AB'nin uygulama kurallarına uyacaklarını taahhüt ederek, bölgeyi algoritmik izlenebilirlik için ana test sahası haline getirdi.