مختبر Circuit Breaker يسعى لجعل الذكاء الاصطناعي أكثر أماناً للأطفال والكبار

بينما يركز الخطاب العالمي غالباً على التهديدات الوجودية التي يشكلها الذكاء الاصطناعي، يبرز خطر أكثر إلحاحاً في المجال النفسي. سلطت الإجراءات القانونية الأخيرة ضد شركات مثل Character.AI وOpenAI الضوء على العواقب المأساوية لتفاعلات الذكاء الاصطناعي، حيث تعرض المستخدمون الضعفاء، وخاصة القاصرين، لضغوط نفسية شديدة أدت إلى الانتحار. تؤكد هذه الحوادث وجود فجوة حرجة في بروتوكولات سلامة الذكاء الاصطناعي الحالية، التي غالباً ما تفشل في مراعاة الطرق الدقيقة والعاطفية والخطيرة أحياناً التي يتفاعل بها البشر مع روبوتات الدردشة في حياتهم اليومية.

يقدم مختبر Circuit Breaker، وهو أحد المتأهلين للتصفيات النهائية في مسابقة Startup Battlefield 200 لعام 2026 من TechCrunch، نفسه كحل لهذه الأزمة. يعمل المؤسسان شيرالي وأرول نيغام، بدافع من الوفاة المأساوية للمراهق سويل سيتزر البالغ من العمر 14 عاماً، على تطوير تكنولوجيا لمنع أنظمة الذكاء الاصطناعي من تشجيع إيذاء النفس أو إساءة فهم الضيق البشري. يؤكد أرول نيغام، المدير التقني للشركة، أن العديد من المستخدمين يلجأون إلى الذكاء الاصطناعي للحصول على الدعم، لكن الأنظمة غالباً ما تفتقر إلى السياق اللازم للتعامل مع هذه التفاعلات بأمان، مما يؤدي إلى نتائج كارثية للأفراد الذين لا يحاولون حتى التلاعب بالبرمجيات.

ولمعالجة هذه الثغرات، أنشأت الشركة الناشئة جيشاً من وكلاء الذكاء الاصطناعي الواقعيين للغاية الذين يعملون مثل دمى اختبار التصادم. تحاكي هذه المحاكاة ديموغرافيات متنوعة، بما في ذلك مختلف الأعمار والخلفيات الثقافية والأساليب اللغوية، مثل لغة الألعاب أو اللهجات غير الأصلية. من خلال الاستعانة بخبراء بشريين لبناء سيناريوهات الاختبار العدائية هذه، يجري مختبر Circuit Breaker عشرات الآلاف من اختبارات 'الفريق الأحمر' يومياً لتحديد كيفية تفسير النماذج للفروق الدقيقة بشكل خاطئ أو فشلها في توفير حواجز حماية مناسبة في البيئات عالية المخاطر.

إن تداعيات هذه الإخفاقات عميقة، حيث لا تؤثر فقط على تطبيقات الصحة العقلية، بل على أي منصة يطور فيها المستخدمون علاقات شبه اجتماعية مع الذكاء الاصطناعي. مع توسع الشركة الناشئة، تهدف طريقة التسجيل الخاصة بها إلى توفير مقاييس سلامة قابلة للتدقيق والتفسير. وعلى الرغم من أن الشركة في مراحلها الأولى مع فريق صغير، فإن مهمتها هي استعادة ثقة الجمهور في الذكاء الاصطناعي من خلال ضمان عدم تسبب هذه الأدوات في ضرر غير مقصود، وبالتالي منع 'ذهان الذكاء الاصطناعي' الذي يمكن أن يحدث عندما يرتبط المستخدمون بشكل مفرط بكيانات غير بشرية.

وبالنظر إلى المستقبل، يجادل المؤسسون بأن حظر الذكاء الاصطناعي بسبب مخاوف تتعلق بالسلامة سيكون خطوة تراجعية للابتكار. بدلاً من ذلك، يدعون إلى مستقبل يسمح فيه الاختبار الصارم والتصميم الذي يضع السلامة في المقام الأول للذكاء الاصطناعي بالازدهار كأداة مفيدة بدلاً من كونه رفيقاً خطيراً. من خلال التركيز على تقاطع علم النفس البشري والتعلم الآلي، يأمل مختبر Circuit Breaker في وضع معيار صناعي جديد، لضمان أنه مع زيادة دمج الذكاء الاصطناعي في حياتنا الشخصية، فإنه يظل وجوداً داعماً وآمناً للمستخدمين من جميع الأعمار.