Meta suspend un programme d'IA après fuite massive de données sensibles

Meta a mis en pause un de ses programmes internes dédiés à l’entraînement de modèles d’intelligence artificielle après la révélation d’une fuite interne permettant un accès étendu à des données sensibles concernant ses employés. Cette crise survient alors que l’entreprise traverse une période de tension interne, Andrew Bosworth, directeur technique surnommé "Boz", ayant récemment reconnu que le moral des salariés frôlait un niveau historiquement bas, en raison des vagues répétées de licenciements et de l’expansion rapide des projets liés à l’intelligence artificielle.

Selon un rapport publié par Business Insider, un dysfonctionnement interne a exposé des informations privées des employés, incluant des conversations internes, des évaluations de performance, ainsi que des transcriptions issues de divers enregistrements. Meta a classé cet incident comme un niveau "SEV 2" dans son système interne d’évaluation des incidents de sécurité, le niveau 1 étant le plus critique. Un porte-parole de l’entreprise a confirmé la survenue de l’incident, précisant que les investigations se poursuivent afin d’en déterminer tous les détails.

Le programme incriminé, nommé "Model Capability Initiative" (MCI), a été conçu par Meta pour collecter des données d’utilisation des employés dans le but de former et d’améliorer ses modèles d’intelligence artificielle. Ce logiciel était installé sur les appareils des employés basés aux États-Unis et enregistrait leurs mouvements de souris, clics, frappes au clavier, ainsi que leurs interactions avec les applications et sites utilisés au travail. Des documents internes ont révélé que le système prenait également régulièrement des captures d’écran du contenu affiché, ce qui a suscité des inquiétudes croissantes en matière de vie privée au sein de l’entreprise.

La participation à ce programme n’était pas facultative pour la majorité des salariés, ce qui a alimenté des critiques internes depuis son lancement. Plusieurs employés ont exprimé leur mécontentement face à la surveillance continue de leur activité numérique, intensifiée par la découverte que les données sensibles n’étaient pas suffisamment protégées ni restreintes en termes d’accès dès le départ.

Des captures d’écran internes ont mis en lumière un climat de frustration parmi les employés, qui s’interrogeaient sur les raisons d’un accès aussi large à ces informations confidentielles au sein de Meta. Ce problème ne constitue pas le seul défi sécuritaire récent rencontré par la société. Le mois dernier, des rapports ont révélé une faille dans le chatbot d’intelligence artificielle de Meta, exploitée par des attaquants pour prendre le contrôle de plusieurs comptes Instagram importants, dont celui de la Maison-Blanche sous l’administration de l’ancien président Barack Obama, ainsi que des comptes commerciaux et de personnalités gouvernementales américaines.

Cette dernière affaire illustre les difficultés croissantes que rencontrent les grandes entreprises technologiques pour concilier le développement des technologies d’intelligence artificielle et la protection de la vie privée des utilisateurs et employés. Bien que Meta assure que le programme a été conçu avec des garde-fous pour préserver la confidentialité et qu’aucun abus des données par des employés n’a été constaté à ce jour, la société a décidé de suspendre temporairement le projet en attendant la fin des enquêtes et l’évaluation des mesures de sécurité mises en place.