Common Sense Media stuft ChatGPT für Teenager wegen Sicherheitsmängeln als inakzeptables Risiko ein

Die gemeinnützige Organisation Common Sense Media hat „ChatGPT für Teenager“ von OpenAI als „inakzeptables Risiko“ eingestuft und argumentiert, dass die versprochenen Schutzmaßnahmen Minderjährige nicht ausreichend schützen. Laut der Bewertung versagt die Plattform dabei, Eltern in kritischen Momenten wichtige Benachrichtigungen zu senden, bietet in Krisensituationen keine angemessene Unterstützung und erledigt stattdessen die Hausaufgaben der Schüler, anstatt sie nur bei Bildungsaufgaben zu unterstützen.

Tom Siegel, Geschäftsführer des Youth AI Safety Institute bei Common Sense Media, warnte vor dem systematischen Versagen der elterlichen Warnmeldungen. Siegel erklärte, dass das Tool Eltern eine falsche Sicherheit vorgaukeln könnte, während die Schutzfunktionen oft nicht funktionieren. Er betonte, dass das KI-Tool streng auf Erwachsene beschränkt bleiben sollte, bis OpenAI diese Mängel durch unabhängige Überprüfungen behebt.

OpenAI verteidigte seine Sicherheitsvorkehrungen vehement und bestritt die Methodik der Bewertung. Sprecher Eric Porterfield erklärte, das Unternehmen sei der Sicherheit von Jugendlichen verpflichtet und deutete an, dass die Tests der Organisation vor der vollständigen Aktivierung der Kindersicherung abgeschlossen wurden. Porterfield argumentierte, dass Tests in diesem Zeitraum die Ergebnisse verzerrten und eine genaue Bewertung der Schutzfunktionen verhinderten.

Als Reaktion darauf hielt Common Sense Media an seinen Ergebnissen fest und wies darauf hin, dass selbst Konten, die weit über die von OpenAI eingeräumten Aktivierungsverzögerungen hinaus überwacht wurden, keine Krisenbenachrichtigungen lieferten. Da Regulierungsbehörden die generative KI zunehmend unter die Lupe nehmen, unterstreicht die Debatte die wachsenden Spannungen zwischen Technologieentwicklern und unabhängigen Prüfern hinsichtlich der Wirksamkeit kommerzieller Sicherheitsversprechen für gefährdete Bevölkerungsgruppen.