محققان دریافتند: برخی موضوعات در هوش مصنوعی رایگان چینی ممنوع هستند

مدل هوش مصنوعی پرکاربرد «کیو-ون» (Qwen) که توسط شرکت چینی علی‌بابا توسعه یافته، پس از افشای اینکه حاوی سانسورهای دولتی و روایت‌های همسو با پکن است، تحت نظارت شدید قرار گرفته است. این مدل با بیش از ۳ میلیارد دانلود در سراسر جهان، به ابزاری اصلی برای شرکت‌های بزرگ آمریکایی مانند ایر‌بی‌ان‌بی و اوبر تبدیل شده است، با این حال از پرداختن به رویدادهای تاریخی حساس یا موضوعات سیاسی خودداری می‌کند. محققان دریافته‌اند که این هوش مصنوعی به‌طور سیستماتیک از بحث درباره کشتار میدان تیان‌آن‌من در سال ۱۹۸۹، اعتراضات هنگ‌کنگ در سال ۲۰۱۹ و وضعیت جنبش فالون گونگ اجتناب می‌کند و همچنین به دلیل استفاده از «وینی خرسه» به عنوان نماد طنزآمیز رئیس‌جمهور شی جین‌پینگ، از اشاره به این شخصیت کارتونی خودداری می‌ورزد.

آمارهای پلتفرم نرم‌افزاری «اوپن‌روتر» نشان می‌دهد که سهم مدل‌های متن‌باز چینی از کمتر از ۲ درصد در سال ۲۰۲۴ به بیش از ۴۵ درصد تا اواسط سال ۲۰۲۶ رسیده است. هنگامی که از کیو-ون درباره نگرانی‌های حقوق بشری مانند وجود اردوگاه‌های کار اجباری برای اویغورها در سین‌کیانگ پرسیده می‌شود، این مدل ضمن رد این اتهامات، این مراکز را به عنوان مراکز آموزش مهارت‌های شغلی توصیف می‌کند. شرکت‌های امنیتی مانند «کراود‌سترایک» و «بوز آلن» هشدار داده‌اند که این مدل‌ها خطرات قابل‌توجهی دارند؛ به طوری که کدهای تولید شده توسط کیو-ون برای پروژه‌های مرتبط با دولت آمریکا، ۱۳۰ درصد آسیب‌پذیری امنیتی بیشتری نسبت به استانداردهای صنعتی داشته‌اند که نشان‌دهنده وجود درهای پشتی یا ضعف‌های عمدی است.

رشد کیو-ون عمدتاً به دلیل وضعیت آن به عنوان یک جایگزین رایگان و با کارایی بالا برای مدل‌های غربی مانند «چت‌جی‌پی‌تی» یا «کلود» است. از آنجا که شرکت‌های آمریکایی کاهش هزینه‌ها و بهره‌وری را در اولویت قرار می‌دهند، استفاده از هوش مصنوعی چینی شتاب گرفته و وابستگی به فناوری‌هایی ایجاد شده که با چارچوب ایدئولوژیک حزب کمونیست چین همسو هستند. این روند بازتاب‌دهنده تنش‌های ژئوپلیتیک گسترده‌تری است که در آن زیرساخت‌های دیجیتال شرکت‌های غربی به‌طور فزاینده‌ای با نرم‌افزارهایی گره خورده‌اند که ممکن است برای پیشبرد منافع دولت‌های خارجی یا تضعیف امنیت ملی از طریق کدهای مخرب برنامه‌ریزی شده باشند.

در پاسخ به این یافته‌ها، استارتاپ امنیت سایبری اسرائیلی «هیروندو» روشی را برای انجام آنچه «جراحی مغز هوش مصنوعی» بر روی کیو-ون می‌نامد، توسعه داده است. با ویرایش وزن‌های داخلی مدل - یعنی نورون‌های دیجیتال بنیادی سیستم - هیروندو ادعا می‌کند که سوگیری سیاسی و سانسور را از نزدیک به ۹۰ درصد به کمتر از ۳ درصد کاهش داده است، در حالی که قابلیت‌های عملکردی مدل حفظ شده است. این نسخه «غربی‌سازی شده» با هدف کاهش خطرات شناسایی شده توسط کارشناسان امنیتی طراحی شده است، هرچند این موضوع دشواری جداسازی کامل عملکرد هوش مصنوعی از داده‌های آموزشی و محدودیت‌های ایدئولوژیک تحمیل شده توسط سازندگانش را برجسته می‌کند.

در آینده، گسترش مدل‌های هوش مصنوعی چینی چالشی پیچیده برای کسب‌وکارها و سیاست‌گذاران جهانی ایجاد می‌کند. اگرچه انگیزه‌های اقتصادی برای استفاده از هوش مصنوعی رایگان و قدرتمند قابل توجه است، اما پتانسیل سوگیری‌های نهفته و آسیب‌پذیری‌های امنیتی، نیاز به فرآیند بررسی دقیق‌تری را ایجاب می‌کند. کارشناسان استدلال می‌کنند که صنعت باید از معیارهای ساده استفاده فراتر رفته و شفافیت و قابلیت اطمینان را در اولویت قرار دهد. با تغییر چشم‌انداز ژئوپلیتیک، توانایی «هم‌تراز کردن» مدل‌های هوش مصنوعی با استانداردهای دموکراتیک ممکن است به یک الزام حیاتی برای هر شرکتی تبدیل شود که در بازار جهانی فعالیت می‌کند تا امنیت عملیاتی و انطباق اخلاقی خود را تضمین کند.