آزمایشگاه Circuit Breaker در تلاش برای ایمن‌سازی هوش مصنوعی برای کودکان و بزرگسالان

در حالی که گفتمان جهانی اغلب بر تهدیدات وجودی هوش مصنوعی متمرکز است، خطر فوری‌تری در حوزه روان‌شناختی در حال ظهور است. اقدامات قانونی اخیر علیه شرکت‌هایی مانند Character.AI و OpenAI پیامدهای غم‌انگیز تعاملات با هوش مصنوعی را برجسته کرده است، جایی که کاربران آسیب‌پذیر، به‌ویژه خردسالان، دچار پریشانی شدید شده و به خودکشی روی آورده‌اند. این حوادث شکافی حیاتی در پروتکل‌های ایمنی فعلی هوش مصنوعی را نشان می‌دهد که اغلب در درک تعاملات ظریف، عاطفی و گاه خطرناک انسان‌ها با چت‌بات‌ها در زندگی روزمره شکست می‌خورند.

آزمایشگاه Circuit Breaker، فینالیست رقابت Startup Battlefield 200 تک‌کرانچ در سال ۲۰۲۶، خود را به عنوان راهکاری برای این بحران معرفی می‌کند. بنیان‌گذاران، شیرالی و آرول نیگام، با انگیزه مرگ غم‌انگیز سوول ستزر ۱۴ ساله، در حال توسعه فناوری برای جلوگیری از تشویق کاربران به آسیب‌رساندن به خود توسط سیستم‌های هوش مصنوعی هستند. آرول نیگام، مدیر ارشد فناوری شرکت، تأکید می‌کند که بسیاری از کاربران برای دریافت حمایت به هوش مصنوعی روی می‌آورند، اما سیستم‌ها اغلب فاقد زمینه لازم برای مدیریت ایمن این تعاملات هستند که منجر به نتایج فاجعه‌باری برای افرادی می‌شود که حتی قصد دستکاری نرم‌افزار را ندارند.

برای مقابله با این آسیب‌پذیری‌ها، این استارتاپ ارتشی از عوامل هوش مصنوعی فوق‌واقع‌گرایانه ایجاد کرده است که مانند آدمک‌های تست تصادف عمل می‌کنند. این شبیه‌سازی‌ها جمعیت‌های متنوعی از جمله سنین، پیشینه‌های فرهنگی و سبک‌های زبانی مختلف مانند اصطلاحات گیمرها یا گویش‌های غیربومی را تقلید می‌کنند. با استفاده از متخصصان انسانی برای ساخت این سناریوهای تست خصمانه، Circuit Breaker Labs روزانه ده‌ها هزار تست «تیم قرمز» انجام می‌دهد تا مشخص کند مدل‌ها چگونه ممکن است ظرافت‌ها را اشتباه تفسیر کنند یا در ارائه محافظ‌های ایمنی در محیط‌های پرخطر شکست بخورند.

پیامدهای این شکست‌ها عمیق است و نه تنها برنامه‌های سلامت روان، بلکه هر پلتفرمی که کاربران در آن روابط شبه‌اجتماعی با هوش مصنوعی برقرار می‌کنند را تحت تأثیر قرار می‌دهد. با گسترش این استارتاپ، روش امتیازدهی اختصاصی آن با هدف ارائه معیارهای ایمنی قابل حسابرسی و قابل توضیح است. اگرچه این شرکت در مراحل اولیه خود با تیمی کوچک قرار دارد، مأموریت آن بازگرداندن اعتماد عمومی به هوش مصنوعی با اطمینان از این است که این ابزارها ناخواسته باعث آسیب نمی‌شوند و از «روان‌پریشی هوش مصنوعی» که ممکن است هنگام وابستگی بیش از حد کاربران به موجودات غیرانسانی رخ دهد، جلوگیری می‌کنند.

در نگاه به آینده، بنیان‌گذاران استدلال می‌کنند که ممنوعیت هوش مصنوعی به دلیل نگرانی‌های ایمنی، گامی قهقرایی برای نوآوری خواهد بود. در عوض، آن‌ها از آینده‌ای حمایت می‌کنند که در آن آزمایش‌های دقیق و طراحی ایمن‌محور به هوش مصنوعی اجازه می‌دهد به عنوان ابزاری مفید شکوفا شود. با تمرکز بر تقاطع روان‌شناسی انسانی و یادگیری ماشین، Circuit Breaker Labs امیدوار است استاندارد جدیدی در صنعت ایجاد کند تا اطمینان حاصل شود که هوش مصنوعی با ادغام بیشتر در زندگی شخصی، حضوری حمایتی و ایمن برای کاربران در تمام سنین باقی می‌ماند.