OpenAI introduit un tatouage numérique invisible dans l'UE pour se conformer à l'IA Act

OpenAI a annoncé lundi le déploiement d'un tatouage numérique (watermarking) invisible dans les textes générés par ChatGPT et Codex au sein de l'Union européenne. Cette mesure technique vise à respecter les exigences de transparence de l'IA Act européen, entré en vigueur le 2 août, qui impose aux développeurs de rendre les contenus générés par IA détectables par des systèmes informatiques. La fonctionnalité sera déployée dans les prochaines semaines pour tous les abonnés de l'UE.

Baptisée "textGrain", cette méthode a été développée avec des chercheurs des universités de Yale et de Pennsylvanie. Plutôt que d'utiliser des symboles, le système utilise une clé secrète pour biaiser subtilement les probabilités du mot suivant, créant un motif statistique reconnaissable. OpenAI a confirmé que ces marques ne stockent pas l'identité des utilisateurs et n'altèrent pas les performances. Toutefois, les tests révèlent des vulnérabilités : remplacer 10 % des mots par des synonymes fait chuter la précision de détection de 92 % à 66 %.

OpenAI a prévenu qu'une absence de marque ne prouve pas une paternité humaine. L'entreprise souligne que le motif indique seulement un traitement par IA, sans mesurer la supervision éditoriale humaine. Les outils de détection seront donc initialement réservés aux chercheurs agréés.

Ce déploiement souligne les approches divergentes du secteur face à la réglementation croissante. Les géants de la tech se sont engagés à respecter le code de conduite de l'UE, faisant de celle-ci un terrain d'essai majeur pour la traçabilité algorithmique.