OpenAI, düzenlemelere uyum sağlamak için AB'deki metin ve kodlar için dijital filigran uygulaması başlattı

OpenAI, Avrupa Birliği genelinde oluşturulan metin ve kodlara görünmez bir dijital filigran uygulamaya başlayacağını duyurdu. Bu karar, şirketi bloğun gelişmekte olan yapay zeka şeffaflık standartlarıyla uyumlu hale getiriyor ve rakip yapay zeka geliştiricisi Anthropic tarafından bu yılın başlarında başlatılan benzer bir girişimi takip ediyor. Sistem, içeriğin şirketin dil modellerinden kaynaklanıp kaynaklanmadığını doğrulamak için üretilen materyallere ince yapısal ipuçları yerleştiriyor.

Özellik, OpenAI'ın "modelin kelime seçimlerine görünmez bir istatistiksel sinyal eklediğini" açıkladığı textGrain adlı özel bir sistem aracılığıyla çalışıyor. Uzmanlaşmış algılama yazılımları, bu temel kalıpları tanımlamak için metni tarayabiliyor. Şirket, sistemin Google'ın SynthID'si gibi alternatifleri "yakaladığını veya geçtiğini" belirtti, ancak "ideal koşullardaki güçlü performansın günlük kullanımda güvenilir algılamayı garanti etmediği" konusunda uyardı. Algılama başarısı kısa çıktılar ve matematiksel içerik için yaklaşık yüzde 80'e düşüyor ve manuel metin düzenleme de doğruluğu azaltıyor.

Bu girişim, üretken yapay zeka sağlayıcılarının bilgisayar tarafından oluşturulan metinlerin makine tarafından okunabilir ve tanımlanabilir olmasını sağlamasını zorunlu kılan AB Yapay Zeka Yasası'nın 50. Maddesi ile uyumlu olacak şekilde tasarlandı. Yeni pazara girenlerin hemen uyması gerekirken, OpenAI, Microsoft, Meta ve Google gibi yerleşik teknoloji firmaları, uyumlu algılama mekanizmalarını uygulamak için 2 Aralık'a kadar sıkı bir son tarihle karşı karşıya.

Filigran, Avrupa Birliği içindeki ChatGPT ve Codex metin çıktılarına otomatik olarak uygulanacak, bölge dışındaki kullanıcılar ise seçili modeller için isteğe bağlı erişime sahip olacak. OpenAI, filigran çerçevesini daha geniş teknik geliştirme için açık kaynaklı hale getirmeyi planlıyor. Ancak, ilgili algılama yazılımına erişim başlangıçta onaylı araştırmacılar ve uzman kurumlarla sınırlandırılacak ve şirket, dedektörün kullanıcıları tanımlayamayacağını, orijinal istemleri ortaya çıkaramayacağını veya özel konuşmaları ifşa edemeyeceğini vurguluyor.