Des chercheurs découvrent des sujets interdits dans une IA chinoise populaire

Le modèle d'intelligence artificielle Qwen, développé par le conglomérat chinois Alibaba, fait l'objet d'un examen minutieux après la révélation qu'il intègre une censure d'État et des récits favorables à Pékin. Avec plus de 3 milliards de téléchargements dans le monde, le modèle est devenu un pilier pour de grandes entreprises américaines comme Airbnb et Uber, malgré son refus d'aborder des événements historiques sensibles ou des sujets politiques. Des chercheurs ont constaté que l'IA évite systématiquement de discuter du massacre de la place Tiananmen en 1989, des manifestations de Hong Kong en 2019 et du statut du mouvement Falun Gong, tout en refusant d'évoquer Winnie l'Ourson en raison de son utilisation comme symbole satirique du président Xi Jinping.

Les mesures de la plateforme logicielle OpenRouter indiquent que la part des modèles chinois à poids ouverts est passée de moins de 2 % en 2024 à plus de 45 % à la mi-2026. Interrogé sur les préoccupations en matière de droits de l'homme, telles que l'existence de camps de travail forcé pour les Ouïghours au Xinjiang, Qwen nie ces allégations, qualifiant les installations de centres de formation professionnelle. Des sociétés de sécurité comme CrowdStrike et Booz Allen ont averti que ces modèles présentent des risques importants, notant que le code généré par Qwen pour des projets liés au gouvernement américain contenait 130 % de vulnérabilités de sécurité en plus que les normes industrielles, suggérant des portes dérobées ou des faiblesses intentionnelles.

L'ascension de Qwen est principalement attribuée à son statut d'alternative gratuite et performante aux modèles occidentaux comme ChatGPT ou Claude. Alors que les entreprises américaines privilégient la réduction des coûts et la productivité, l'adoption de l'IA chinoise s'est accélérée, créant une dépendance à l'égard d'une technologie alignée sur le cadre idéologique du Parti communiste chinois. Cette tendance reflète des tensions géopolitiques plus larges, où l'infrastructure numérique des entreprises occidentales est de plus en plus imbriquée avec des logiciels qui pourraient être programmés pour promouvoir des intérêts étrangers ou compromettre la sécurité nationale via du code compromis.

En réponse à ces conclusions, la startup israélienne de cybersécurité Hirundo a développé une méthode pour effectuer ce qu'elle appelle une 'chirurgie cérébrale de l'IA' sur Qwen. En modifiant les poids internes du modèle — les neurones numériques fondamentaux du système —, Hirundo affirme avoir réduit le biais politique et la censure de près de 90 % à moins de 3 % tout en maintenant les capacités fonctionnelles du modèle. Cette version 'occidentalisée' vise à atténuer les risques identifiés par les experts en sécurité, bien qu'elle souligne la difficulté de séparer complètement les performances de l'IA des données d'entraînement sous-jacentes et des contraintes idéologiques imposées par ses créateurs.

À l'avenir, la prolifération des modèles d'IA chinois représente un défi complexe pour les entreprises et les décideurs politiques mondiaux. Bien que les incitations économiques à utiliser une IA gratuite et puissante soient importantes, le potentiel de biais intégrés et de vulnérabilités de sécurité exige un processus d'audit plus rigoureux. Les experts soutiennent que l'industrie doit aller au-delà des simples mesures d'utilisation et donner la priorité à la transparence et à la fiabilité. À mesure que le paysage géopolitique évolue, la capacité de 'réaligner' les modèles d'IA sur les normes démocratiques pourrait devenir une exigence vitale pour toute entreprise opérant sur le marché mondial afin de garantir la sécurité opérationnelle et la conformité éthique.