La jefa de derechos humanos de OpenAI advierte sobre los peligros de la IA militar

Sarah Yager, la primera responsable de derechos humanos y despliegue responsable de OpenAI, advirtió el martes que la adopción militar global de la inteligencia artificial plantea graves riesgos humanitarios. Durante la conferencia ScaleUp:AI en Nueva York, Yager subrayó la urgencia de establecer salvaguardas estrictas en torno a los sistemas de objetivos y las armas autónomas, a medida que las fuerzas armadas integran rápidamente tecnologías automatizadas en sus operaciones de combate.

«Esto no me deja dormir: ¿Qué hará el ejército con la IA en la selección de objetivos? ¿Y qué pasa con las armas autónomas?», declaró Yager. Describiendo su puesto en OpenAI como trabajar en «las entrañas de la bestia», rechazó los debates de Silicon Valley sobre los derechos de la IA, argumentando que los derechos humanos internacionales deben seguir siendo el estándar central. «No quiero que una empresa de IA me diga qué es bueno», afirmó, citando los Convenios de Ginebra de 1949.

OpenAI contrató a Yager tras su acuerdo de febrero con el Departamento de Guerra para desplegar modelos avanzados en entornos clasificados. Esto ocurrió después de que Anthropic fuera etiquetada como un riesgo para la cadena de suministro por rechazar demandas militares sin prohibiciones estrictas contra la vigilancia masiva. Desde su llegada, Yager ha facilitado sesiones de pruebas de seguridad con expertos legales internacionales para calibrar los modelos de OpenAI según las leyes de los conflictos armados.

Mirando hacia el futuro, Yager expresó su preocupación por la estrecha demografía que supervisa el desarrollo de la IA, señalando que las reuniones de seguridad de la Casa Blanca están dominadas casi exclusivamente por ejecutivos masculinos. Destacó que la IA está alterando los equilibrios de poder globales sin aportes adecuados de las poblaciones afectadas. Actualmente, colabora con organismos de supervisión federal para desarrollar mecanismos de monitoreo externo que rastreen los despliegues gubernamentales de IA.