OpenAI démantèle des campagnes d'influence russes et iraniennes utilisant des faux profils

OpenAI a annoncé jeudi avoir mis fin à deux opérations d'influence secrètes originaires de Russie et d'Iran, utilisant ChatGPT pour générer de la propagande et attiser les divisions géopolitiques. Ces acteurs étatiques ont créé de fausses identités journalistiques et des organisations écrans pour diffuser des récits anti-ukrainiens et semer la discorde aux États-Unis et en Israël.

La campagne iranienne a établi sept fausses personnalités journalistiques, publiant près de 100 articles dans des médias internationaux. OpenAI a identifié une figure, « Ervin B. Hoskins », active sur les réseaux sociaux. Parallèlement, le réseau russe a créé un faux think-tank, le Social Research Center (SRC), en Amérique latine, utilisant du personnel local ignorant servir les intérêts russes.

OpenAI a qualifié l'opération russe de tentative d'identité écran la plus complexe détectée en 30 mois. Les opérateurs ont utilisé ChatGPT pour rédiger des évaluations internes et du contenu ciblant les audiences européennes, notamment sur les relations polono-ukrainiennes.

Ces découvertes soulignent le passage de réseaux de bots rudimentaires à des écosystèmes d'influence sophistiqués alimentés par l'IA. Les experts avertissent que la génération de texte à bas coût menace l'intégrité des médias mondiaux, poussant les entreprises technologiques à renforcer leurs systèmes de détection.