OpenAI introduce marcas de agua digitales para texto y código en la UE para cumplir con las regulaciones

OpenAI ha anunciado que comenzará a aplicar una marca de agua digital invisible al texto y código generados en la Unión Europea. Esta decisión alinea a la empresa con los estándares emergentes de transparencia de IA del bloque y sigue una iniciativa similar introducida por su rival Anthropic a principios de este año. El sistema integra señales estructurales sutiles en el material generado para verificar si el contenido proviene de los modelos de lenguaje de la compañía.

La función opera mediante un sistema propietario llamado textGrain, que añade una señal estadística invisible a las elecciones de palabras del modelo. Un software de detección especializado puede escanear el texto para identificar estos patrones subyacentes. La empresa señaló que el sistema igualó o superó a alternativas como SynthID de Google, aunque advirtió que un buen rendimiento en condiciones ideales no garantiza una detección fiable en el uso diario. La tasa de éxito cae al 80% en textos cortos y contenido matemático, y la edición manual degrada la precisión.

La iniciativa cumple con el Artículo 50 de la Ley de IA de la UE, que exige que los proveedores de IA generativa aseguren que el texto sea identificable. Mientras que los nuevos participantes deben cumplir de inmediato, las firmas establecidas tienen hasta el 2 de diciembre para implementar mecanismos de detección.

El marcado se aplicará automáticamente a ChatGPT y Codex en la UE, mientras que los usuarios fuera de la región tendrán acceso opcional. OpenAI planea abrir el código del marco de trabajo, pero el software de detección se limitará inicialmente a investigadores y especialistas, enfatizando que no identifica usuarios ni revela conversaciones privadas.