OpenAI führt digitales Wasserzeichen für Text und Code in der EU ein, um Vorschriften zu erfüllen

OpenAI hat angekündigt, ein unsichtbares digitales Wasserzeichen auf Texte und Codes anzuwenden, die innerhalb der Europäischen Union generiert werden. Diese Entscheidung bringt das Unternehmen in Einklang mit den aufkommenden Transparenzstandards der EU für KI und folgt einer ähnlichen Initiative des Konkurrenten Anthropic. Das System bettet subtile strukturelle Hinweise in das generierte Material ein, um zu überprüfen, ob der Inhalt von den Sprachmodellen des Unternehmens stammt.

Die Funktion arbeitet über ein proprietäres System namens textGrain, das ein unsichtbares statistisches Signal zur Wortwahl des Modells hinzufügt. Spezialisierte Erkennungssoftware kann den Text scannen, um diese zugrunde liegenden Muster zu identifizieren. Das Unternehmen stellte fest, dass das System Alternativen wie Googles SynthID „erreichte oder übertraf“, warnte jedoch, dass eine starke Leistung unter idealen Bedingungen keine zuverlässige Erkennung im Alltag garantiert. Die Erfolgsquote sinkt bei kurzen Ausgaben und mathematischen Inhalten auf etwa 80 Prozent, und manuelle Textbearbeitung verschlechtert die Genauigkeit.

Die Initiative dient der Einhaltung von Artikel 50 des EU-KI-Gesetzes, das Anbieter generativer KI verpflichtet, computergenerierte Texte maschinenlesbar und identifizierbar zu machen. Während neue Marktteilnehmer sofort handeln müssen, haben etablierte Firmen bis zum 2. Dezember Zeit, Erkennungsmechanismen zu implementieren.

Die Wasserzeichen werden automatisch auf ChatGPT- und Codex-Ausgaben in der EU angewendet, während Nutzer außerhalb der Region einen optionalen Zugang erhalten. OpenAI plant, das Framework als Open Source zur Verfügung zu stellen, der Zugang zur Erkennungssoftware bleibt jedoch zunächst auf Forscher und Institutionen beschränkt, wobei betont wird, dass das Tool keine Nutzer identifizieren oder private Gespräche offenlegen kann.