هوش مصنوعی Muse متا پروفایل‌های دقیقی از دوستان و خانواده شما ایجاد می‌کند

دستیار هوش مصنوعی جدید متا، Muse، به سرعت به یک پدیده ویروسی تبدیل شده است و میلیون‌ها کاربر آن را به حساب‌های بانکی، پیام‌رسان‌ها و داده‌های سلامت خود متصل کرده‌اند تا کارهای روزمره را خودکار کنند. با این حال، تحقیقات اخیر محققان امنیتی، دستورالعمل‌های عملیاتی داخلی این سیستم را فاش کرده است که نشان می‌دهد Muse برای ایجاد پروفایل‌های جامع و ساختاریافته از هر فرد در زندگی کاربر طراحی شده است. با استخراج فایل‌های داخلی، محققان نگاهی نادر به نحوه سازماندهی روابط شخصی توسط هوش مصنوعی متا انداخته‌اند که عملاً تعاملات اجتماعی را به نقاط داده برای تحلیل الگوریتمی تبدیل می‌کند.

کاران جوشی، محقق مستقل ایمنی هوش مصنوعی، با موفقیت این دستورالعمل‌های سیستمی را استخراج کرد که صراحتاً به Muse دستور می‌دهد برای هر فرد در شبکه کاربر یک صفحه اختصاصی ایجاد کند. این پروفایل‌ها داده‌های مربوط به اعضای خانواده، شرکا، دوستان و همکاران حرفه‌ای را جمع‌آوری کرده و همه چیز را از تاریخچه مشترک و علایق مشترک تا رویدادهای تکراری زندگی ردیابی می‌کنند. متا ادعا می‌کند که این دستورالعمل‌ها برای تقویت شفافیت در نظر گرفته شده‌اند، اما سطح جزئیات دقیق، از تولدها و سالگردها گرفته تا بحث‌های خاص و نقاط عطف، هشدارهای جدی در مورد حریم خصوصی کاربران و عمق قابلیت‌های نظارتی متا ایجاد کرده است.

در حالی که چت‌بات‌های هوش مصنوعی مدت‌هاست برای مشاوره روابط استفاده می‌شوند، Muse به دلیل زیرساخت‌های گسترده موجود متا و دسترسی تاریخی به داده‌های شبکه‌های اجتماعی، نشان‌دهنده یک تغییر قابل توجه است. این سیستم به گونه‌ای طراحی شده است که از ورودی‌های پراکنده به پرونده‌های دقیق تبدیل شود، از جمله بخش‌هایی در مورد «تقویت» روابط و شناسایی «موضوعات باز» برای پیگیری. این عملکرد بر این فرض استوار است که برای مفید بودن واقعی، یک هوش مصنوعی باید زمینه عمیقی در مورد دایره اجتماعی کاربر داشته باشد و عملاً سعی کند روابط انسانی را با صمیمیت یک دوست واقعی درک کند.

منتقدان و کارشناسان اخلاق هشدار می‌دهند که این سطح از تجمیع داده‌ها عمیقاً نگران‌کننده است. کاریسا ولیز از مؤسسه اخلاق در هوش مصنوعی آکسفورد خاطرنشان می‌کند که کاربران اطلاعات بسیار بیشتری را به این سیستم‌ها می‌دهند تا آنچه در ازای آن دریافت می‌کنند، که باعث ایجاد عدم تعادل قدرت می‌شود که در آن هوش مصنوعی می‌تواند جزئیات حساس در مورد زندگی شخصی را استنباط کند. پیامدها عمیق هستند: از آنجایی که کاربران به این عوامل اجازه دسترسی به کل زندگی دیجیتال خود را می‌دهند، پتانسیل سوءاستفاده یا استنباط‌های نادرست افزایش می‌یابد و ارتباطات شخصی را به کالایی برای پردازش الگوریتمی و پیش‌بینی رفتاری تبدیل می‌کند.

در نگاه به آینده، صنعت با یک نقطه عطف حیاتی در مورد تعادل بین شخصی‌سازی و حریم خصوصی مواجه است. متا تأکید می‌کند که Muse در ماشین‌های مجازی اختصاصی با گزارش‌های حسابرسی و تأیید انسانی برای اقدامات حساس عمل می‌کند. با این حال، کارشناسانی مانند میراندا بوگن استدلال می‌کنند که این ابزارها فعالانه از کاربران می‌خواهند که کل زندگی خود را به هوش مصنوعی واگذار کنند، که منجر به گسترش بی‌سابقه دانش شرکت‌ها در مورد ساختارهای اجتماعی فردی می‌شود. از آنجایی که این دستیاران بیشتر در روال‌های روزانه ادغام می‌شوند، آینده حریم خصوصی دیجیتال ممکن است به این بستگی داشته باشد که آیا کاربران می‌توانند مرزهایی را در برابر تلاش بی‌وقفه برای ادغام کامل داده‌ها حفظ کنند یا خیر.