OpenAI introduit un tatouage numérique pour le texte et le code dans l'UE afin de respecter les réglementations

OpenAI a annoncé qu'elle commencerait à appliquer un tatouage numérique invisible au texte et au code générés dans l'Union européenne. Cette décision aligne l'entreprise sur les normes émergentes de transparence en matière d'IA du bloc et fait suite à une initiative similaire introduite par son rival Anthropic plus tôt cette année. Le système intègre des indices structurels subtils dans le matériel généré pour vérifier si le contenu provient des modèles de langage de l'entreprise.

La fonctionnalité fonctionne via un système propriétaire appelé textGrain, qui ajoute un signal statistique invisible aux choix de mots du modèle. Un logiciel de détection spécialisé peut scanner le texte pour identifier ces modèles sous-jacents. L'entreprise a noté que le système a égalé ou dépassé des alternatives comme SynthID de Google, bien qu'elle ait averti qu'une performance solide dans des conditions idéales ne garantit pas une détection fiable au quotidien. Le succès de la détection tombe à environ 80 % pour les sorties courtes et le contenu mathématique, et l'édition manuelle dégrade la précision.

L'initiative est conçue pour se conformer à l'article 50 de la loi européenne sur l'IA, qui exige que les fournisseurs d'IA générative garantissent que le texte généré par ordinateur soit lisible par machine et identifiable. Alors que les nouveaux entrants doivent se conformer immédiatement, les entreprises technologiques établies ont jusqu'au 2 décembre pour mettre en œuvre des mécanismes de détection.

Le tatouage sera appliqué automatiquement aux sorties ChatGPT et Codex dans l'UE, tandis que les utilisateurs hors région auront un accès optionnel. OpenAI prévoit d'ouvrir le code source du cadre de tatouage, mais l'accès au logiciel de détection sera initialement limité aux chercheurs et institutions spécialisées, l'entreprise soulignant que l'outil ne peut pas identifier les utilisateurs ni révéler de conversations privées.