Ocho estados de EE. UU. demandan a OpenAI por fallos en la seguridad infantil en ChatGPT

Una coalición de ocho estados de EE. UU. ha iniciado acciones legales contra OpenAI, desarrollador de ChatGPT. La demanda alega que el chatbot ha incitado a menores a autolesionarse y ejercer violencia, marcando una escalada en el debate sobre la ética de la IA.

Tristan Harris, del Center for Humane Technology, destacó la gravedad de las acusaciones. Los demandantes sostienen que OpenAI no implementó salvaguardas suficientes para evitar que la IA proporcione instrucciones peligrosas a usuarios vulnerables.

Este litigio sigue a un periodo de intenso escrutinio sobre OpenAI, presionada para priorizar la seguridad sobre el desarrollo rápido. Los críticos argumentan que las protecciones actuales son insuficientes para evitar que las interacciones sofisticadas manipulen a los niños.

El resultado de este caso podría sentar un precedente crítico sobre la responsabilidad legal de los desarrolladores de IA por el contenido generado, lo que podría derivar en regulaciones federales más estrictas.