OpenAI zerschlägt russische und iranische Einflusskampagnen mit gefälschten Identitäten

OpenAI gab am Donnerstag bekannt, zwei verdeckte Einflussoperationen aus Russland und dem Iran gestoppt zu haben, die ChatGPT zur Verbreitung von Propaganda und zur Förderung geopolitischer Spaltung nutzten. Die staatlich gelenkten Akteure erstellten gefälschte Journalistenidentitäten und Tarnorganisationen, um anti-ukrainische Narrative zu verbreiten und Zwietracht in den USA und Israel zu säen.

Die iranische Kampagne etablierte sieben gefälschte Journalistenprofile und platzierte fast 100 Artikel in internationalen Medien. OpenAI identifizierte eine prominente Figur namens „Ervin B. Hoskins“, die in sozialen Netzwerken aktiv war. Gleichzeitig gründete das russische Netzwerk eine fingierte Denkfabrik namens Social Research Center (SRC) in Lateinamerika, wobei lokales Personal unwissentlich für russische Interessen eingespannt wurde.

OpenAI bezeichnete die russische Operation als den komplexesten Versuch einer Tarnidentität der letzten 30 Monate. Die Betreiber nutzten ChatGPT für interne Bewertungen und Inhalte, die auf europäische Zielgruppen abzielten, einschließlich Rhetorik zu den polnisch-ukrainischen Beziehungen.

Diese Ergebnisse unterstreichen den Übergang von simplen Bot-Netzwerken zu KI-gestützten Einfluss-Ökosystemen. Experten warnen, dass kostengünstige, massenhafte KI-Textgenerierung die globale Medienintegrität bedroht und Tech-Unternehmen unter Druck setzt, ihre Erkennungssysteme zu verstärken.