OpenAI, ChatGPT Çıktıları İçin Yalnızca Avrupa Birliği'nde Zorunlu Filigran Uygulamasını Başlattı

OpenAI, Avrupa Birliği içindeki kullanıcılar için ChatGPT tarafından oluşturulan metinlere otomatik olarak filigran eklemeye başlayacağını duyurdu. Yapay zeka geliştiricisi bu özelliği küresel çapta kullanıma sunmayı planlasa da, özellik Avrupa düzenleyici çevresinin dışındaki tüm pazarlarda varsayılan olarak devre dışı kalmaya devam edecek.

Bu politika değişikliği, Ağustos ayında resmen yürürlüğe giren Avrupa Birliği Yapay Zeka Yasası ile doğrudan uyumu sağlamak amacıyla tasarlandı. Mevzuat, sağlayıcıların yapay zeka sistemleri tarafından üretilen sentetik içeriği makine tarafından algılanabilir bir formatta işaretlemelerini zorunlu kılıyor. OpenAI, bu gereksinimi karşılamak için textGrain adlı özel bir metodoloji geliştirdi ve teknik mimarisini ve uygulama mekaniklerini detaylandıran bir teknik makale yayınladı.

Teknik olarak textGrain mekanizması, üretim süreci sırasında belirli kelime seçimlerine ince istatistiksel desenler yerleştirerek çalışır. Bu dilsel işaretleyiciler insan okuyucular tarafından fark edilemez ve metnin bağlamsal kalitesini düşürmez, ancak özel bir doğrulama anahtarı ile güvenilir bir şekilde tanımlanabilirler. İlgili tespit aracına erişim, başlangıçta resmi bir başvuru süreciyle incelenmiş harici araştırmacılar ve ortak kuruluşlarla sınırlı kalacaktır.

Bu dağıtıma rağmen teknik uzmanlar, SynthID ve C2PA dahil olmak üzere mevcut yapay zeka filigran çerçevelerinin, basit yeniden ifade etme veya harici düzenleme yoluyla atlatılmaya karşı savunmasız kaldığı konusunda uyarıyor. OpenAI'ın bölgesel yayılımı, katı Avrupa uyum zorunluluklarının üretken yapay zekanın küresel yönetimini nasıl parçaladığını ve diğer yargı bölgelerinin yakında değerlendirebileceği bir emsal oluşturduğunu gösteriyor.