Une faille dans l'application Mac de ChatGPT aurait pu permettre aux pirates de voler des donnees sensibles

Une vulnérabilité de sécurité récemment corrigée dans la version macOS de l'application ChatGPT d'OpenAI a mis en lumière les risques croissants liés à la prolifération des logiciels d'intelligence artificielle. La faille, découverte par des chercheurs de la Objective-See Foundation, aurait pu permettre à des acteurs malveillants d'obtenir un accès non autorisé aux journaux de discussion, aux sessions de navigation et à d'autres données sensibles stockées dans l'application. Cet incident souligne les dangers inhérents à l'octroi d'un accès profond au système aux plateformes d'IA, car ces outils fonctionnent souvent avec des privilèges élevés qui, s'ils sont compromis, peuvent être exploités pour contourner les protocoles de sécurité standard et compromettre l'ensemble de l'environnement d'exploitation.

L'analyste logiciel de la Objective-See Foundation, Patrick Wardle, qui a dirigé l'enquête, a décrit la vulnérabilité comme « incroyablement triviale » à exploiter, ne nécessitant qu'une douzaine de lignes de code pour être exécutée. OpenAI a officiellement reconnu la faille de sécurité et a mis en œuvre un correctif dans son journal des modifications système le 25 septembre. Dans une déclaration aux médias, le porte-parole d'OpenAI, Shane Bauer, a noté que bien que l'entreprise continue de faire évoluer ses pratiques de sécurité, il existe un besoin clair et urgent d'agir plus rapidement pour résoudre ces vulnérabilités à mesure que les applications d'IA sont plus profondément intégrées dans les flux de travail informatiques quotidiens.

La racine technique du problème résidait dans la manière dont l'application ChatGPT pour macOS gère la communication inter-processus. Bien que l'application ait été conçue pour vérifier les signatures numériques sur trois couches de processus afin de garantir que seuls les composants de confiance puissent exécuter des requêtes, les chercheurs ont découvert qu'un interpréteur de script spécifique pouvait être manipulé. En générant cet interpréteur plusieurs fois, un attaquant pouvait tromper le système pour qu'il accepte un script non fiable, contournant ainsi efficacement les contrôles de sécurité et permettant au code malveillant de s'exécuter dans le processus principal de ChatGPT comme s'il s'agissait d'une instruction légitime.

Les ramifications de cette faille sont importantes, car elle aurait pu permettre aux attaquants d'effectuer des actions au nom de l'utilisateur, comme accéder à des applications sensibles ou exécuter des commandes semblant provenir du logiciel de confiance d'OpenAI. Cet incident rappelle brutalement que les agents d'IA, qui agissent comme des gestionnaires d'immeubles possédant les clés de toutes les pièces, représentent une cible massive pour les cybercriminels. Si ces agents sont subvertis, un code sans privilège peut accéder à toute la vie numérique d'un utilisateur, transformant un outil de productivité en un vecteur potentiel d'exfiltration de données à grande échelle et de compromission du système.

À l'avenir, les experts avertissent que l'obsession actuelle de l'industrie pour le déploiement rapide de fonctionnalités crée une surface d'attaque de plus en plus large. Patrick Wardle, qui doit présenter d'autres conclusions sur les bogues des applications d'IA lors de la prochaine conférence Objective by the Sea, souligne que la sécurité doit être une priorité fondamentale et non une réflexion après coup. Alors que les entreprises d'IA continuent d'intégrer de nouvelles fonctionnalités telles que des assistants toujours actifs, l'industrie doit concentrer ses efforts sur un audit de sécurité rigoureux pour garantir que la commodité de l'IA ne se fasse pas au détriment de la confidentialité fondamentale de l'utilisateur et de l'intégrité du système.