La responsable des droits humains d'OpenAI alerte sur l'IA militaire

Sarah Yager, première responsable des droits humains et du déploiement responsable chez OpenAI, a averti mardi que l'adoption mondiale de l'intelligence artificielle par les militaires présente de graves risques humanitaires. Lors de la conférence ScaleUp:AI à New York, Yager a souligné l'urgence d'établir des garde-fous stricts autour des systèmes de ciblage et des armes autonomes, alors que les forces armées intègrent rapidement des technologies automatisées dans leurs opérations de combat.

« Cela m'empêche de dormir : que va faire l'armée de l'IA pour le ciblage ? Et qu'en est-il des armes autonomes ? », a déclaré Yager. Décrivant son poste chez OpenAI comme travaillant dans « l'antre de la bête », elle a rejeté les débats de la Silicon Valley sur les droits de l'IA, arguant que les droits humains internationaux doivent rester la norme centrale. « Je ne veux pas qu'une entreprise d'IA me dise ce qui est bien », a-t-elle affirmé, en référence aux Conventions de Genève de 1949.

OpenAI a recruté Yager après son contrat de février avec le ministère de la Guerre pour déployer des modèles avancés dans des environnements classifiés. Cela a fait suite au refus d'Anthropic de répondre à des demandes militaires sans interdictions strictes sur la surveillance de masse. Depuis son arrivée, Yager a facilité des sessions de tests de sécurité avec des experts juridiques internationaux pour calibrer les modèles d'OpenAI selon les lois des conflits armés.

Tournée vers l'avenir, Yager a exprimé son inquiétude face à la démographie étroite supervisant le développement de l'IA, notant que les réunions de sécurité à la Maison Blanche sont dominées par des cadres masculins. Elle a souligné que l'IA modifie les équilibres de pouvoir mondiaux sans contribution adéquate des populations affectées. Elle collabore actuellement avec des organismes de surveillance fédéraux pour développer des mécanismes de contrôle externe afin de suivre les déploiements gouvernementaux d'IA.