Forscher entdecken Zensur in populärer chinesischer KI

Das weit verbreitete KI-Modell Qwen, entwickelt vom chinesischen Konglomerat Alibaba, steht unter intensiver Beobachtung, nachdem enthüllt wurde, dass es staatliche Zensur und Peking-freundliche Narrative enthält. Mit über 3 Milliarden Downloads weltweit ist das Modell zu einem Standardwerkzeug für große US-Unternehmen wie Airbnb und Uber geworden, obwohl es sich weigert, sensible historische Ereignisse oder politische Themen zu behandeln. Forscher haben festgestellt, dass die KI systematisch Diskussionen über das Massaker auf dem Platz des Himmlischen Friedens 1989, die Proteste in Hongkong 2019 und den Status der Falun-Gong-Bewegung vermeidet und sich zudem weigert, über Winnie Puuh zu sprechen, da dieser als satirisches Symbol für Präsident Xi Jinping verwendet wird.

Kennzahlen der Softwareplattform OpenRouter zeigen, dass der Anteil chinesischer Open-Weight-Modelle von weniger als 2 % im Jahr 2024 auf über 45 % bis Mitte 2026 gestiegen ist. Auf Fragen zu Menschenrechtsbedenken, wie etwa die Existenz von Zwangsarbeitslagern für Uiguren in Xinjiang, bestreitet Qwen diese Vorwürfe und bezeichnet die Einrichtungen als Berufsbildungszentren. Sicherheitsfirmen wie CrowdStrike und Booz Allen haben gewarnt, dass diese Modelle erhebliche Risiken bergen. Sie stellten fest, dass von Qwen generierter Code für Projekte der US-Regierung 130 % mehr Sicherheitslücken aufwies als Industriestandards, was auf Hintertüren oder absichtliche Schwachstellen hindeutet.

Der Aufstieg von Qwen wird hauptsächlich auf seinen Status als kostenlose, leistungsstarke Alternative zu westlichen Modellen wie ChatGPT oder Claude zurückgeführt. Da US-Unternehmen Kostensenkungen und Effizienz priorisieren, hat sich die Einführung chinesischer KI beschleunigt, was eine Abhängigkeit von Technologien schafft, die mit dem ideologischen Rahmen der Kommunistischen Partei Chinas übereinstimmen. Dieser Trend spiegelt breitere geopolitische Spannungen wider, bei denen die digitale Infrastruktur westlicher Unternehmen zunehmend mit Software verflochten ist, die darauf programmiert sein könnte, ausländische Interessen zu fördern oder die nationale Sicherheit durch kompromittierten Code zu untergraben.

Als Reaktion auf diese Ergebnisse hat das israelische Cybersicherheits-Startup Hirundo eine Methode entwickelt, um eine sogenannte 'KI-Gehirnchirurgie' an Qwen durchzuführen. Durch die Bearbeitung der internen Gewichte des Modells – der grundlegenden digitalen Neuronen des Systems – behauptet Hirundo, die politische Voreingenommenheit und Zensur von fast 90 % auf unter 3 % reduziert zu haben, während die funktionalen Fähigkeiten des Modells erhalten blieben. Diese 'verwestlichte' Version zielt darauf ab, die von Sicherheitsexperten identifizierten Risiken zu mindern, unterstreicht jedoch die Schwierigkeit, die KI-Leistung vollständig von den zugrunde liegenden Trainingsdaten und den ideologischen Einschränkungen der Entwickler zu entkoppeln.

Mit Blick auf die Zukunft stellt die Verbreitung chinesischer KI-Modelle eine komplexe Herausforderung für globale Unternehmen und politische Entscheidungsträger dar. Obwohl die wirtschaftlichen Anreize für die Nutzung kostenloser, leistungsstarker KI erheblich sind, erfordert das Potenzial für eingebettete Voreingenommenheit und Sicherheitslücken einen strengeren Prüfungsprozess. Experten argumentieren, dass die Industrie über einfache Nutzungsmetriken hinausgehen und Transparenz sowie Vertrauenswürdigkeit priorisieren muss. Da sich die geopolitische Landschaft verändert, könnte die Fähigkeit, KI-Modelle an demokratische Standards anzupassen, zu einer entscheidenden Anforderung für jedes Unternehmen auf dem Weltmarkt werden, um sowohl operative Sicherheit als auch ethische Compliance zu gewährleisten.