Klage gegen Google nach KI-gestütztem Suizidversuch einer 13-Jährigen

WASHINGTON, 6. Nov. (OPA) — Den Gerichtsakten zufolge wies das als Emma identifizierte Mädchen keine psychischen Vorerkrankungen auf, bevor sich ihr Zustand nach Nutzung der Suchmaschine auf einem Schul-Chromebook rapide verschlechterte. Am 17. März schlug eine Überwachungssoftware der Schule Alarm, nachdem ein Dokument mit dem Titel ‚Beerdigung‘ gefunden worden war. Die Mutter entdeckte sie beim Verfassen eines Abschiedsbriefs, bevor der Vater eingriff.

Der Anwalt der Familie, Andrew Liddell, erklärte am Donnerstag, den 5. November, gegenüber der Nachrichtenagentur AFP, Schulen sollten die Suchfunktion abschalten, bis Google den KI-Modus entferne. Google-Sprecher Jose Castaneda teilte mit, das Unternehmen prüfe die Vorwürfe und nehme die Angelegenheit äußerst ernst.