Common Sense Media qualifie ChatGPT pour les adolescents de risque inacceptable en raison de failles de sécurité

L'organisation à but non lucratif Common Sense Media a désigné « ChatGPT pour les adolescents » d'OpenAI comme un « risque inacceptable », arguant que les garde-fous promis ne protègent pas adéquatement les mineurs. Selon l'évaluation, la plateforme échoue à envoyer des notifications vitales aux parents lors de moments critiques, ne fournit pas une assistance appropriée en cas de crise et effectue systématiquement les devoirs des élèves au lieu de simplement les aider.

Tom Siegel, directeur de l'institut de sécurité de l'IA pour les jeunes chez Common Sense Media, a tiré la sonnette d'alarme sur la défaillance systémique des alertes parentales. Siegel a déclaré que l'outil pourrait donner aux parents une fausse confiance dans des mesures de sécurité qui ne fonctionnent souvent pas, notant qu'un adolescent pourrait discuter d'automutilation sans déclencher aucune notification. Il a insisté pour que, jusqu'à ce qu'OpenAI corrige ces lacunes via une vérification indépendante, l'outil reste strictement réservé aux adultes.

OpenAI a vigoureusement défendu ses garde-fous, contestant la méthodologie d'évaluation. Le porte-parole Eric Porterfield a affirmé que l'entreprise est engagée envers la sécurité des jeunes, suggérant que les tests ont été effectués avant que les contrôles parentaux ne soient pleinement opérationnels. Porterfield a soutenu que cela a biaisé les résultats, empêchant une évaluation précise du fonctionnement réel des protections.

En réponse, Common Sense Media a maintenu ses conclusions, notant que même au-delà des délais d'activation admis par OpenAI, les comptes surveillés n'ont pas envoyé de notifications de crise. Alors que les régulateurs renforcent leur surveillance de l'IA générative, ce débat souligne les tensions croissantes entre les développeurs technologiques et les auditeurs indépendants sur l'efficacité des promesses de sécurité commerciale pour les populations vulnérables.