L'IA Muse de Meta crée des profils détaillés de tous vos amis et de votre famille

Le nouvel assistant personnel IA de Meta, Muse, est rapidement devenu un phénomène viral, des millions d'utilisateurs connectant l'agent à leurs comptes bancaires, plateformes de messagerie et données de santé pour automatiser leurs tâches quotidiennes. Cependant, des enquêtes récentes menées par des chercheurs en sécurité ont exposé les instructions opérationnelles internes du système, révélant que Muse est conçu pour construire des profils complets et structurés de chaque personne dans la vie d'un utilisateur. En extrayant des fichiers internes, les chercheurs ont offert un aperçu rare de la manière dont l'IA de Meta organise les relations personnelles, transformant effectivement les interactions sociales en points de données pour l'analyse algorithmique.

Le chercheur indépendant en sécurité de l'IA, Karan Joshi, a réussi à extraire ces instructions système, qui ordonnent explicitement à Muse de créer une page dédiée pour chaque individu dans le réseau de l'utilisateur. Ces profils agrègent des données sur les membres de la famille, les partenaires, les amis et les collègues professionnels, suivant tout, de l'historique partagé et des intérêts communs aux événements récurrents de la vie. Meta soutient que ces instructions visent à favoriser la transparence, mais le niveau de détail granulaire, allant des anniversaires aux disputes spécifiques et aux étapes importantes, a suscité des inquiétudes majeures concernant la vie privée des utilisateurs et l'ampleur des capacités de surveillance de Meta.

Bien que les chatbots IA soient utilisés depuis longtemps pour obtenir des conseils relationnels, Muse représente un changement significatif en raison de la vaste infrastructure existante de Meta et de son accès historique aux données des réseaux sociaux. Le système est conçu pour évoluer d'entrées éparses vers des dossiers détaillés, incluant des sections sur la manière de 'renforcer' les relations et d'identifier les 'sujets ouverts' à suivre. Cette fonctionnalité repose sur la prémisse que pour être réellement utile, une IA doit posséder un contexte profond sur le cercle social de l'utilisateur, tentant effectivement de comprendre les relations humaines avec l'intimité d'un ami réel.

Les critiques et les experts en éthique avertissent que ce niveau d'agrégation de données est profondément préoccupant. Carissa Véliz, de l'Institut d'éthique en IA d'Oxford, note que les utilisateurs fournissent beaucoup plus d'informations à ces systèmes qu'ils n'en reçoivent en retour, créant un déséquilibre de pouvoir où l'IA peut déduire des détails sensibles sur la vie personnelle. Les ramifications sont profondes : à mesure que les utilisateurs accordent à ces agents l'accès à toute leur vie numérique, le potentiel d'utilisation abusive ou d'inférences incorrectes augmente, transformant les connexions personnelles en une marchandise pour le traitement algorithmique et la prédiction comportementale.

À l'avenir, l'industrie est confrontée à un tournant critique concernant l'équilibre entre personnalisation et confidentialité. Meta affirme que Muse fonctionne au sein de machines virtuelles dédiées avec des journaux d'audit et une confirmation humaine pour les actions sensibles. Cependant, des experts comme Miranda Bogen soutiennent que ces outils incitent activement les utilisateurs à livrer leur vie entière à l'IA, conduisant à une expansion sans précédent des connaissances des entreprises sur les structures sociales individuelles. À mesure que ces assistants s'intègrent davantage dans les routines quotidiennes, l'avenir de la confidentialité numérique pourrait dépendre de la capacité des utilisateurs à maintenir des limites face à la volonté incessante d'intégration totale des données.