یک نقص در برنامه مک ChatGPT می‌توانست به هکرها اجازه سرقت داده‌های حساس را بدهد

یک آسیب‌پذیری امنیتی که اخیراً در نسخه macOS برنامه ChatGPT شرکت OpenAI اصلاح شده است، خطرات فزاینده مرتبط با گسترش نرم‌افزارهای هوش مصنوعی را برجسته کرده است. این نقص که توسط محققان بنیاد Objective-See کشف شد، می‌توانست به مهاجمان اجازه دهد تا به گزارش‌های چت، نشست‌های مرورگر و سایر داده‌های حساس ذخیره شده در برنامه دسترسی غیرمجاز پیدا کنند. این حادثه خطرات ذاتی اعطای دسترسی عمیق سیستمی به پلتفرم‌های هوش مصنوعی را نشان می‌دهد، زیرا این ابزارها اغلب با امتیازات بالایی کار می‌کنند که در صورت به خطر افتادن، می‌توانند برای دور زدن پروتکل‌های امنیتی استاندارد و به خطر انداختن کل محیط سیستم‌عامل مورد سوءاستفاده قرار گیرند.

پاتریک واردل، تحلیلگر نرم‌افزار در بنیاد Objective-See که این تحقیقات را رهبری کرد، این آسیب‌پذیری را «به‌طور دیوانه‌واری ساده» برای بهره‌برداری توصیف کرد که تنها به حدود دوازده خط کد برای اجرا نیاز داشت. OpenAI به طور رسمی این نقص امنیتی را تأیید کرد و اصلاحیه آن را در گزارش تغییرات سیستم خود در ۲۵ سپتامبر اعمال نمود. شین باوئر، سخنگوی OpenAI، در بیانیه‌ای به رسانه‌ها خاطرنشان کرد که اگرچه این شرکت به تکامل شیوه‌های امنیتی خود ادامه می‌دهد، اما نیاز آشکار و فوری برای حرکت سریع‌تر در رفع این آسیب‌پذیری‌ها وجود دارد، زیرا برنامه‌های هوش مصنوعی به طور عمیق‌تری در جریان‌های کاری محاسباتی روزانه ادغام می‌شوند.

ریشه فنی این مشکل در نحوه مدیریت ارتباطات بین‌فرآیندی در برنامه ChatGPT برای macOS نهفته بود. در حالی که این برنامه برای تأیید امضاهای دیجیتال در سه لایه از فرآیندها طراحی شده بود تا اطمینان حاصل شود که فقط اجزای قابل اعتماد می‌توانند درخواست‌ها را اجرا کنند، محققان دریافتند که یک مفسر اسکریپت خاص می‌تواند دستکاری شود. با ایجاد مکرر این مفسر، یک مهاجم می‌توانست سیستم را فریب دهد تا یک اسکریپت غیرقابل اعتماد را بپذیرد و به طور مؤثر بررسی‌های امنیتی را دور بزند و به کد مخرب اجازه دهد تا در فرآیند اصلی ChatGPT اجرا شود، گویی که یک دستور قانونی است.

پیامدهای این نقص قابل توجه است، زیرا می‌توانست به مهاجمان اجازه دهد تا اقداماتی را به نمایندگی از کاربر انجام دهند، مانند دسترسی به برنامه‌های حساس یا اجرای دستوراتی که به نظر می‌رسد از نرم‌افزار قابل اعتماد OpenAI سرچشمه می‌گیرند. این حادثه یادآور تلخی است که نمایندگان هوش مصنوعی، که مانند مدیران ساختمان با کلید تمام اتاق‌ها عمل می‌کنند، هدف بزرگی برای مجرمان سایبری هستند. اگر این نمایندگان منحرف شوند، کدهای بدون امتیاز می‌توانند به کل زندگی دیجیتال کاربر دسترسی پیدا کنند و یک ابزار بهره‌وری را به برداری بالقوه برای سرقت داده‌ها و به خطر انداختن سیستم در مقیاس بزرگ تبدیل کنند.

در نگاه به آینده، کارشناسان هشدار می‌دهند که وسواس فعلی صنعت برای استقرار سریع ویژگی‌ها، سطح حمله به طور فزاینده‌ای گسترده ایجاد می‌کند. پاتریک واردل، که قرار است یافته‌های بیشتری را در مورد اشکالات برنامه‌های هوش مصنوعی در کنفرانس آتی Objective by the Sea ارائه دهد، تأکید می‌کند که امنیت باید یک اولویت اساسی باشد نه یک فکر ثانویه. همانطور که شرکت‌های هوش مصنوعی به ادغام ویژگی‌های جدید مانند دستیارهای همیشه روشن ادامه می‌دهند، صنعت باید تمرکز خود را به سمت ممیزی امنیتی دقیق تغییر دهد تا اطمینان حاصل شود که راحتی هوش مصنوعی به قیمت حریم خصوصی کاربر و یکپارچگی سیستم تمام نمی‌شود.