OpenAI bannit des agents russes et iraniens utilisant ChatGPT pour des campagnes d'influence

OpenAI a annoncé jeudi le bannissement d'un réseau de comptes russes et iraniens utilisant ChatGPT pour des opérations d'influence secrètes. Ces agents ont réussi à introduire de fausses narrations dans des médias établis, une méthode bien plus efficace que les campagnes de bots classiques.

Les agents russes ont utilisé l'IA pour rédiger des rapports et usurper l'identité d'autorités éducatives péruviennes, attisant des tensions politiques en Pologne. Parallèlement, des agents iraniens ont créé sept fausses identités pour placer près de 100 articles dans des médias internationaux concernant la politique américaine.

Les experts soulignent que l'IA générative permet aux acteurs étrangers de franchir les barrières linguistiques et de produire des contenus suffisamment authentiques pour infiltrer des publications légitimes. Darren Linvill, chercheur à l'université de Clemson, qualifie cette menace d'évolutive.

Alors que les plateformes peinent à identifier ces opérations sophistiquées, l'utilisation de l'IA par des acteurs étatiques pour manipuler l'opinion publique devient un défi majeur de cybersécurité.