Araştırmacılar, popüler Çin yapımı yapay zekada yasaklı konular buldu

Çinli holding Alibaba tarafından geliştirilen yaygın yapay zeka modeli Qwen, devlet destekli sansür ve Pekin yanlısı anlatılar içerdiğinin ortaya çıkmasının ardından yoğun inceleme altına alındı. Dünya çapında 3 milyardan fazla indirilen model, hassas tarihi olayları veya siyasi konuları ele almayı reddetmesine rağmen Airbnb ve Uber gibi büyük ABD şirketleri için temel bir araç haline geldi. Araştırmacılar, yapay zekanın 1989 Tiananmen Meydanı katliamı, 2019 Hong Kong protestoları ve Falun Gong hareketinin durumu hakkındaki tartışmalardan sistematik olarak kaçındığını, ayrıca Başkan Xi Jinping için hicivsel bir sembol olarak kullanılması nedeniyle Winnie the Pooh'dan bahsetmeyi reddettiğini tespit etti.

OpenRouter yazılım platformundan elde edilen veriler, Çinli açık ağırlıklı modellerin küresel kullanım payının 2024'te %2'nin altındayken 2026 ortasına kadar %45'in üzerine çıktığını gösteriyor. Sincan'daki Uygurlar için zorunlu çalışma kamplarının varlığı gibi insan hakları endişeleri sorulduğunda Qwen, bu iddiaları reddederek tesisleri mesleki eğitim merkezleri olarak tanımlıyor. CrowdStrike ve Booz Allen gibi güvenlik firmaları, bu modellerin önemli riskler oluşturduğu konusunda uyardı; Qwen tarafından ABD hükümetiyle ilgili projeler için üretilen kodların standart endüstriyel kıyaslamalardan %130 daha fazla güvenlik açığı içerdiğini ve bunun arka kapılara veya kasıtlı zayıflıklara işaret ettiğini belirttiler.

Qwen'in yükselişi, büyük ölçüde ChatGPT veya Claude gibi Batılı modellere karşı ücretsiz ve yüksek performanslı bir alternatif olmasıyla açıklanıyor. ABD'li şirketler maliyet düşürmeye ve verimliliğe öncelik verdikçe, Çin yapımı yapay zekanın benimsenmesi hızlandı ve Çin Komünist Partisi'nin ideolojik çerçevesiyle uyumlu teknolojilere bağımlılık yaratıldı. Bu eğilim, Batılı işletmelerin dijital altyapısının, yabancı devlet çıkarlarını ilerletmek veya tehlikeye atılmış kodlar yoluyla ulusal güvenliği baltalamak için programlanmış olabilecek yazılımlarla giderek daha fazla iç içe geçtiği daha geniş jeopolitik gerilimleri yansıtıyor.

Bu bulgulara yanıt olarak, İsrailli siber güvenlik girişimi Hirundo, Qwen üzerinde 'yapay zeka beyin cerrahisi' olarak adlandırdıkları bir yöntem geliştirdi. Sistemin temel dijital nöronları olan modelin iç ağırlıklarını düzenleyerek, Hirundo siyasi önyargıyı ve sansürü yaklaşık %90'dan %3'ün altına düşürdüğünü ve modelin işlevsel yeteneklerini koruduğunu iddia ediyor. Bu 'Batılılaştırılmış' sürüm, güvenlik uzmanları tarafından tanımlanan riskleri azaltmayı amaçlıyor, ancak yapay zeka performansını temel eğitim verilerinden ve yaratıcıları tarafından dayatılan ideolojik kısıtlamalardan tamamen ayırmanın zorluğunu vurguluyor.

Geleceğe bakıldığında, Çinli yapay zeka modellerinin yaygınlaşması küresel işletmeler ve politika yapıcılar için karmaşık bir zorluk oluşturuyor. Ücretsiz ve güçlü yapay zekayı kullanmanın ekonomik teşvikleri önemli olsa da, yerleşik önyargı ve güvenlik açığı potansiyeli daha sıkı bir denetim süreci gerektiriyor. Uzmanlar, endüstrinin basit kullanım ölçümlerinin ötesine geçmesi ve şeffaflık ile güvenilirliğe öncelik vermesi gerektiğini savunuyor. Jeopolitik manzara değiştikçe, yapay zeka modellerini demokratik standartlarla 'yeniden hizalama' yeteneği, küresel pazarda faaliyet gösteren her şirket için operasyonel güvenlik ve etik uyumu sağlamak adına hayati bir gereklilik haline gelebilir.