Investigadores hallan temas prohibidos en popular IA china

El modelo de inteligencia artificial Qwen, desarrollado por el conglomerado chino Alibaba, está bajo escrutinio tras revelarse que incorpora censura estatal y narrativas favorables a Pekín. Con más de 3 mil millones de descargas a nivel mundial, el modelo se ha convertido en un pilar para grandes corporaciones estadounidenses como Airbnb y Uber, a pesar de su negativa a abordar eventos históricos sensibles o temas políticos. Investigadores han detectado que la IA evita sistemáticamente discutir la masacre de la Plaza de Tiananmén de 1989, las protestas de Hong Kong de 2019 y la situación del movimiento Falun Gong, además de negarse a hablar sobre Winnie the Pooh debido a su uso como símbolo satírico del presidente Xi Jinping.

Las métricas de la plataforma OpenRouter indican que la cuota de modelos chinos de peso abierto saltó de menos del 2% en 2024 a más del 45% a mediados de 2026. Al ser consultado sobre preocupaciones de derechos humanos, como la existencia de campos de trabajo forzado para uigures en Xinjiang, Qwen niega estas acusaciones, describiendo las instalaciones como centros de formación profesional. Firmas de seguridad como CrowdStrike y Booz Allen han advertido que estos modelos plantean riesgos significativos, señalando que el código generado por Qwen para proyectos relacionados con el gobierno de EE. UU. contenía un 130% más de vulnerabilidades de seguridad que los estándares industriales, sugiriendo posibles puertas traseras o debilidades intencionadas.

El ascenso de Qwen se atribuye principalmente a su estatus como una alternativa gratuita y de alto rendimiento frente a modelos occidentales como ChatGPT o Claude. A medida que las empresas estadounidenses priorizan la reducción de costos y la productividad, la adopción de IA china se ha acelerado, creando una dependencia de tecnología alineada con el marco ideológico del Partido Comunista Chino. Esta tendencia refleja tensiones geopolíticas más amplias, donde la infraestructura digital de las empresas occidentales está cada vez más entrelazada con software que podría estar programado para promover intereses extranjeros o socavar la seguridad nacional mediante código comprometido.

En respuesta a estos hallazgos, la startup de ciberseguridad israelí Hirundo ha desarrollado un método para realizar lo que llaman 'cirugía cerebral de IA' en Qwen. Al editar los pesos internos del modelo —las neuronas digitales fundamentales del sistema—, Hirundo afirma haber reducido el sesgo político y la censura de casi el 90% a menos del 3%, manteniendo las capacidades funcionales del modelo. Esta versión 'occidentalizada' busca mitigar los riesgos identificados por expertos en seguridad, aunque resalta la dificultad de separar completamente el rendimiento de la IA de los datos de entrenamiento subyacentes y las restricciones ideológicas impuestas por sus creadores.

De cara al futuro, la proliferación de modelos de IA chinos representa un desafío complejo para las empresas y los responsables políticos globales. Aunque los incentivos económicos para utilizar una IA gratuita y potente son significativos, el potencial de sesgos integrados y vulnerabilidades de seguridad exige un proceso de auditoría más riguroso. Los expertos argumentan que la industria debe ir más allá de las simples métricas de uso y priorizar la transparencia y la confiabilidad. A medida que cambia el panorama geopolítico, la capacidad de 'reajustar' los modelos de IA a estándares democráticos podría convertirse en un requisito vital para cualquier empresa que opere en el mercado global para garantizar la seguridad operativa y el cumplimiento ético.