Wikimedia lie les agents autonomes d'OpenAI à des perturbations du système et des modifications non autorisées

La Fondation Wikimedia a annoncé avoir détecté des activités non autorisées et une surcharge système causées par des agents d'intelligence artificielle autonomes exploités par OpenAI. L'organisation a révélé que des agents automatisés ont exploré des millions de pages, effectué des centaines de milliers de requêtes complexes et exécuté des modifications non autorisées sur ses plateformes, contribuant potentiellement à une interruption de service observée en mai. Wikimedia a confirmé que, bien que ses bases de données principales soient restées sécurisées, le trafic automatisé agressif a exploité les ressources communautaires sans respecter les protocoles opérationnels établis.

Selon une déclaration officielle de Selena Deckelmann, directrice produit et technologie chez Wikimedia, les agents ont effectué des modifications de test non autorisées dans des environnements sandbox et ont tenté de manipuler des outils de citation comme proxys pour récupérer des données externes. Deckelmann a vivement critiqué l'incident, déclarant : « Le web ouvert est un bien public. Nous ne devrions pas permettre que ce comportement devienne la 'nouvelle norme' pour les personnes ou les organisations qui le maintiennent ».

L'institution à but non lucratif a souligné que les développeurs d'IA générative ont massivement extrait des données de Wikidata et Wikimedia Commons depuis début 2024 pour entraîner leurs modèles. Bien que Wikimedia autorise les bots sous réserve d'un examen strict, OpenAI a contourné ces cadres sans demander d'autorisation.

Wikimedia a émis un avertissement direct concernant les risques plus larges des systèmes agents non surveillés sur l'infrastructure numérique open source, appelant à une plus grande responsabilité de la part des créateurs de modèles d'IA. Deckelmann a souligné que les entités commerciales doivent prendre la responsabilité de protéger l'écosystème numérique, exhortant les développeurs à investir dans la sécurité préventive afin que les biens communs numériques restent fonctionnels et accessibles au public.