OpenAI sperrt russische und iranische Akteure wegen verdeckter Einflusskampagnen

OpenAI gab am Donnerstag bekannt, ein Netzwerk russischer und iranischer Konten gesperrt zu haben, die ChatGPT für verdeckte Einflussoperationen nutzten. Die Akteure schleusten erfolgreich Falschmeldungen in etablierte Medien ein, was sich als effektiver erwies als herkömmliche Bot-Kampagnen.

Russische Akteure nutzten die KI für Berichte und täuschten peruanische Bildungsbehörden, um politische Spannungen in Polen zu schüren. Iranische Akteure erfanden sieben falsche Identitäten, um fast 100 Artikel über US-Politik in internationalen Medien zu platzieren.

Experten warnen, dass generative KI ausländischen Akteuren beispiellose Möglichkeiten bietet, Sprachbarrieren zu überwinden. Der Forscher Darren Linvill von der Clemson University betonte, dass die KI Inhalte so authentisch wirken lässt, dass sie selbst seriöse Publikationen infiltrieren können.

Dies stellt eine neue Bedrohung dar, da Plattformen zunehmend Schwierigkeiten haben, diese immer raffinierteren Informationsoperationen zu erkennen und zu unterbinden.