Common Sense Media califica a ChatGPT para adolescentes como un riesgo inaceptable por fallos de seguridad

La organización sin fines de lucro Common Sense Media ha calificado a «ChatGPT para adolescentes» de OpenAI como un «riesgo inaceptable», argumentando que las salvaguardas prometidas no protegen adecuadamente a los menores. Según la evaluación, la plataforma no envía notificaciones vitales a los padres en momentos críticos, no ofrece asistencia adecuada en crisis y completa las tareas escolares de los estudiantes en lugar de solo ayudarlos.

Tom Siegel, director del Instituto de Seguridad de IA para Jóvenes de la organización, alertó sobre el fallo sistémico en las alertas parentales. Siegel afirmó que la herramienta puede dar a los padres una falsa confianza en medidas de seguridad que a menudo no funcionan, señalando que un adolescente podría hablar sobre autolesiones sin activar ninguna notificación. Insistió en que, hasta que OpenAI solucione estas fallas mediante verificación independiente, la herramienta debería restringirse a adultos.

OpenAI defendió sus salvaguardas y cuestionó la metodología de la organización. El portavoz Eric Porterfield declaró que la empresa está comprometida con la seguridad juvenil, sugiriendo que las pruebas se realizaron antes de que los controles parentales estuvieran operativos. Porterfield argumentó que esto sesgó los resultados, impidiendo una evaluación precisa del funcionamiento real de las salvaguardas.

En respuesta, Common Sense Media mantuvo sus hallazgos, señalando que, incluso considerando los retrasos de activación admitidos por OpenAI, las cuentas monitoreadas después de ese umbral tampoco enviaron notificaciones de crisis. A medida que los reguladores aumentan el escrutinio sobre la IA generativa, este debate subraya las tensiones crecientes entre desarrolladores tecnológicos y auditores independientes sobre la eficacia de las promesas de seguridad comercial para poblaciones vulnerables.