Meta Muse : une IA qui cartographie vos relations en temps réel

Près d'un mois après son lancement, l'agent d'intelligence artificielle Muse de Meta fait l'objet d'une analyse approfondie révélant un fonctionnement intrusif. L'outil crée et actualise systématiquement des profils dédiés à chaque personne gravitant autour de l'utilisateur, une procédure exécutée toutes les heures.

Ces informations proviennent de l'extraction des instructions internes du système par le chercheur indépendant Karan Joshi, via l'interface de chat standard de l'application. Ses conclusions, relayées par Wired, indiquent que l'algorithme est conçu pour comprendre la nature des liens sociaux réels. « Ils essaient de vous connaître comme un ami, ce qui est honnêtement assez inquiétant », a-t-il déclaré.

De son côté, l'organisation The Future Society a publié les directives système extraites d'une copie virtuelle exportée de Muse. Ces documents confirment que les pages relationnelles générées contiennent des données précises sur les interactions avec les proches, même si ces derniers n'utilisent pas eux-mêmes le service.

Muse a été déployé par Meta le 8 septembre dernier sous forme d'assistant personnel capable d'effectuer diverses tâches quotidiennes : envoi d'e-mails, réservation de voyages, achats en ligne ou suivi d'objectifs. Pour fonctionner, l'application requiert l'accès à un large éventail de comptes et d'applications tiers. Depuis, elle occupe la première place du classement des applications iPhone gratuites sur l'App Store américain.

Inquiétudes croissantes sur la sécurité

Les problèmes de confidentialité ont émergé dès les premières semaines d'utilisation. En septembre, Amazon a bloqué l'accès de Muse à sa plateforme commerciale. Le géant du e-commerce reproche à Meta l'absence de notification préalable concernant l'accès de l'agent à sa boutique en ligne, tout en soulevant des questions sur la gestion des identifiants clients et des données de compte.

Par ailleurs, Meta a récemment corrigé une vulnérabilité critique de type zero-day affectant la version Mac de Muse. Cette faille permettait à un logiciel malveillant déjà présent sur l'ordinateur de l'utilisateur de prendre le contrôle de l'agent. Une telle compromission aurait pu exploiter les permissions accordées précédemment par l'utilisateur à l'application.