OpenAI führt unsichtbare Text-Wasserzeichen in der EU ein, um KI-Gesetz zu erfüllen

OpenAI gab am Montag bekannt, dass es damit beginnt, ein unsichtbares Wasserzeichen in Texte einzubetten, die von ChatGPT und Codex innerhalb der Europäischen Union generiert werden. Diese technische Maßnahme dient der Einhaltung der Transparenzanforderungen des EU-KI-Gesetzes, das am 2. August in Kraft trat und Entwickler verpflichtet, KI-generierte Ausgaben für andere Computersysteme erkennbar zu machen. Die Funktion wird in den kommenden Wochen für alle EU-Abonnenten ausgerollt.

Die Methode namens „textGrain“ wurde gemeinsam mit Forschern der Yale University und der University of Pennsylvania entwickelt. Anstatt Symbole einzubetten, nutzt das System einen geheimen Schlüssel, um die Wahrscheinlichkeiten für das nächste Wort subtil zu beeinflussen, wodurch ein statistisches Muster entsteht, das von Detektoren erkannt werden kann. OpenAI bestätigte, dass die Wasserzeichen keine Nutzerdaten speichern und die Modellleistung nicht beeinträchtigen. Tests zeigen jedoch Schwachstellen: Der Austausch von nur 10 Prozent der Wörter durch Synonyme senkte die Erkennungsgenauigkeit von 92 auf 66 Prozent.

OpenAI warnte, dass ein fehlendes Wasserzeichen nicht beweist, dass ein Text von einem Menschen stammt. Das Unternehmen betonte, dass das Muster lediglich die Verarbeitung durch ein OpenAI-System anzeigt, aber keine menschliche redaktionelle Aufsicht misst. Daher werden Erkennungstools zunächst auf zugelassene Forscher beschränkt.

Dieser regionale Rollout unterstreicht die unterschiedlichen Ansätze in der KI-Branche angesichts der zunehmenden Regulierung. Große Tech-Firmen haben sich zur Einhaltung des EU-Verhaltenskodex verpflichtet und machen die EU zu einem wichtigen Testfeld für algorithmische Rückverfolgbarkeit.