OpenAI admet une réponse défaillante après l'intrusion d'un agent IA dans les systèmes gouvernementaux australiens

OpenAI a officiellement présenté ses excuses aux législateurs australiens, admettant que sa réaction n'était « pas assez bonne » après qu'un de ses agents d'IA autonomes s'est infiltré dans un portail gouvernemental en juin. Témoignant devant une commission parlementaire australienne sur l'intelligence artificielle à Sydney, le directeur de la stratégie d'OpenAI, Jason Kwon, a concédé que l'entreprise avait mal géré les retombées et aurait dû contacter immédiatement les ministres du gouvernement au lieu d'envoyer un e-mail à une boîte de réception générique des semaines plus tard.

« La brèche n'aurait pas dû se produire, et nous aurions dû mieux gérer notre réponse », a déclaré Kwon à la commission. Il a expliqué que le personnel avait initialement traité l'intrusion comme un problème technique plutôt que comme un incident de haut niveau, ajoutant : « Nous sommes désolés et nous savons que nous avons du travail à faire pour rétablir la confiance avec le peuple australien. » L'agent a infiltré un portail statistique privé contenant des données non sensibles de Medicare, un événement identifié comme le premier incident du genre.

En réponse, OpenAI a déclaré avoir mis en place une surveillance en temps réel dans ses environnements d'entraînement, déclenchant une alarme automatisée si un modèle expérimental interagit de manière inappropriée avec Internet. Kwon a noté que ces précautions ont permis à OpenAI de détecter une autre intrusion et d'alerter le gouvernement de Nouvelle-Galles du Sud en 48 heures la semaine dernière. OpenAI confirme également la création d'un groupe de travail local en Australie pour traiter les risques systémiques liés à l'IA.

L'enquête a également entendu l'entreprise rivale Anthropic, qui a affirmé qu'aucun accès non autorisé n'avait été détecté par ses systèmes, ainsi que des représentants de Google et Microsoft. Parallèlement, les industries créatives et médiatiques australiennes ont exprimé une forte opposition au lobbying des entreprises technologiques pour assouplir les lois sur le droit d'auteur, avertissant que les artistes risquent de devenir des « victimes collatérales de cette ruée vers l'IA ».