سازمان Common Sense Media، چت‌جی‌پی‌تی برای نوجوانان را به دلیل نقص‌های ایمنی، ریسک غیرقابل‌قبول خواند

سازمان دیده‌بان غیرانتفاعی Common Sense Media، نسخه «چت‌جی‌پی‌تی برای نوجوانان» شرکت OpenAI را به عنوان یک «ریسک غیرقابل‌قبول» طبقه‌بندی کرده است. این سازمان استدلال می‌کند که محافظ‌های وعده داده شده در این پلتفرم، قادر به حفاظت کافی از خردسالان نیستند. طبق ارزیابی منتشر شده، این نسخه تخصصی در ارسال هشدارهای حیاتی به والدین در لحظات حساس ناتوان است، در شرایط بحرانی کمک مناسبی ارائه نمی‌دهد و به جای راهنمایی آموزشی، تکالیف دانش‌آموزان را به طور کامل انجام می‌دهد.

تام سیگل، مدیر اجرایی مؤسسه ایمنی هوش مصنوعی جوانان در این سازمان، نسبت به فروپاشی سیستماتیک هشدارهای والدین هشدار داد. سیگل اظهار داشت که این ابزار ممکن است اعتماد کاذبی در والدین ایجاد کند، در حالی که هشدارهای ایمنی اغلب کار نمی‌کنند. او تأکید کرد که تا زمانی که OpenAI این نقص‌ها را از طریق تأیید مستقل برطرف نکند، این ابزار هوش مصنوعی باید صرفاً برای بزرگسالان محدود باقی بماند.

OpenAI با دفاع از تدابیر حفاظتی خود، روش‌شناسی ارزیابی این سازمان را زیر سؤال برد. اریک پورترفیلد، سخنگوی OpenAI، اعلام کرد که این شرکت به ایمنی جوانان متعهد است و پیشنهاد کرد که آزمایش‌های این سازمان پیش از فعال‌سازی کامل کنترل‌های والدین انجام شده است. پورترفیلد استدلال کرد که آزمایش در آن بازه زمانی، نتایج را مخدوش کرده و مانع از ارزیابی دقیق عملکرد محافظ‌ها در شرایط واقعی شده است.

در پاسخ، Common Sense Media بر یافته‌های خود پافشاری کرد و اذعان داشت که حتی با وجود تأخیرهای اعلام شده توسط OpenAI، حساب‌هایی که مدت‌ها پس از آن بازه زمانی نظارت می‌شدند نیز در ارسال هشدارهای بحرانی شکست خوردند. با افزایش نظارت نهادهای قانونی بر هوش مصنوعی مولد، این بحث تنش‌های فزاینده میان توسعه‌دهندگان فناوری و ناظران مستقل را در مورد کارایی وعده‌های ایمنی تجاری برای جمعیت‌های آسیب‌پذیر برجسته می‌کند.