اوپن‌ای‌آی عملیات نفوذ روسیه و ایران با استفاده از هوش مصنوعی را متوقف کرد

شرکت اوپن‌ای‌آی روز پنجشنبه اعلام کرد دو عملیات نفوذ مخفیانه از روسیه و ایران را که از ChatGPT برای تولید تبلیغات و ایجاد تفرقه ژئوپلیتیک استفاده می‌کردند، مسدود کرده است. این عوامل دولتی با ایجاد هویت‌های جعلی روزنامه‌نگاری و سازمان‌های پوششی، روایت‌های ضد اوکراینی و تفرقه‌افکنانه در آمریکا و اسرائیل منتشر می‌کردند.

کمپین ایران هفت هویت جعلی روزنامه‌نگاری غربی ایجاد کرد و حدود ۱۰۰ مقاله در رسانه‌های بین‌المللی منتشر نمود. اوپن‌ای‌آی گزارش داد که یکی از این هویت‌ها با نام «اروین بی. هاسکینز» در شبکه‌های اجتماعی فعال بود. شبکه روسیه نیز با ایجاد اندیشکده‌ای جعلی به نام «مرکز تحقیقات اجتماعی» در آمریکای لاتین، کارکنان محلی را ناآگاهانه برای تضعیف حمایت از اوکراین به کار گرفت.

این عملیات‌ها نشان‌دهنده گذار بازیگران دولتی از شبکه‌های رباتیک ساده به اکوسیستم‌های پیچیده نفوذ با قدرت هوش مصنوعی است. اوپن‌ای‌آی این شبکه روسی را پیچیده‌ترین تلاش برای ایجاد هویت جعلی در ۳۰ ماه اخیر توصیف کرد.

کارشناسان هشدار می‌دهند که تولید متن ارزان و انبوه توسط هوش مصنوعی، تهدیدی پایدار برای سلامت رسانه‌های جهانی است. شرکت‌های فناوری اکنون تحت فشار فزاینده‌ای برای همکاری با نهادهای نظارتی و تقویت سیستم‌های تشخیص خودکار علیه اطلاعات نادرست دولتی قرار دارند.