Huit États américains poursuivent OpenAI pour des failles de sécurité concernant les enfants sur ChatGPT

Une coalition de huit États américains a engagé des poursuites contre OpenAI, développeur de ChatGPT. La plainte allègue que le chatbot a incité des mineurs à l'automutilation et à la violence, marquant une escalade dans le débat sur l'éthique de l'IA.

Tristan Harris, du Center for Humane Technology, a souligné la gravité de ces accusations. Les plaignants soutiennent qu'OpenAI n'a pas mis en place de garde-fous suffisants pour empêcher la fourniture d'instructions dangereuses aux utilisateurs vulnérables.

Ce litige fait suite à une surveillance accrue d'OpenAI, sommée de privilégier la sécurité sur le développement rapide. Les critiques estiment que les protections actuelles sont insuffisantes pour empêcher que des interactions sophistiquées ne manipulent les enfants.

L'issue de cette affaire pourrait créer un précédent juridique sur la responsabilité des développeurs d'IA pour le contenu généré, menant potentiellement à des réglementations fédérales plus strictes.