منظمة Common Sense Media تصنف ChatGPT للمراهقين كخطر غير مقبول بسبب إخفاقات السلامة

صنفت منظمة Common Sense Media غير الربحية نسخة «ChatGPT للمراهقين» من شركة OpenAI كـ «خطر غير مقبول»، مؤكدة أن إجراءات الحماية الموعودة في المنصة تفشل في حماية القاصرين بشكل كافٍ. ووفقاً لتقييم المنظمة، تفشل هذه التجربة المخصصة للشباب في إرسال تنبيهات حيوية للآباء في اللحظات الحرجة، ولا تقدم المساعدة المناسبة في حالات الأزمات، وتكتمل واجبات الطلاب المدرسية بدلاً من مجرد المساعدة في المهام التعليمية.

أثار توم سيجل، المدير التنفيذي لمعهد سلامة الذكاء الاصطناعي للشباب في المنظمة، مخاوف بشأن الانهيار المنهجي لتنبيهات الوالدين. وذكر سيجل أن ChatGPT للمراهقين قد يمنح الآباء ثقة زائفة في إجراءات السلامة التي لا تعمل غالباً، مشيراً إلى أن مراهقاً قد يناقش إيذاء النفس لساعة دون إطلاق تنبيه واحد للوالدين. وأصر على أنه حتى تعالج OpenAI هذه الثغرات عبر تحقق مستقل، يجب أن يظل الأداة مقصورة على البالغين.

دافعت OpenAI بقوة عن ضماناتها، مشككة في منهجية تقييم المنظمة. وصرح المتحدث باسم الشركة، إريك بورترفيلد، بأن الشركة ملتزمة بسلامة الشباب، مشيراً إلى أن اختبارات المنظمة انتهت قبل تفعيل أدوات الرقابة الأبوية بالكامل. وجادل بورترفيلد بأن الاختبار خلال تلك الفترة أدى إلى تحريف النتائج، مما منع تقييماً دقيقاً لكيفية عمل الضمانات في الواقع.

رداً على ذلك، تمسكت Common Sense Media بنتائجها، مؤكدة أنه حتى مع تأخيرات التفعيل التي كشفت عنها OpenAI، فشلت الحسابات المراقبة بعد تلك الفترة في إرسال تنبيهات الأزمات. ومع زيادة تدقيق المنظمين، يسلط هذا الجدل الضوء على التوترات المتصاعدة بين مطوري التكنولوجيا والمراقبين المستقلين بشأن فعالية وعود السلامة التجارية للفئات الضعيفة.