Zuckerberg rejette la coordination sur la sécurité de l'IA

Alors que les principaux laboratoires d'intelligence artificielle, dont OpenAI, Anthropic et DeepMind de Google, tirent la sonnette d'alarme sur la sécurité et plaident pour une coordination sectorielle, Mark Zuckerberg juge cette démarche inutile. Le dirigeant de Meta a exprimé son désaccord lors d'un entretien avec la journaliste Joanna Stern.

« Il existe un certain nombre de laboratoires qui travaillent à la construction d'une IA avancée, et je ne pense pas que nous ayons besoin d'une sorte de coordination à l'échelle de l'industrie pour ne pas nécessairement gâcher cela », a déclaré Zuckerberg. Selon lui, chaque laboratoire doit simplement prendre le temps nécessaire en interne pour garantir une progression sûre dès qu'il identifie des problèmes.

Cette position tranche avec les initiatives récentes du secteur. Après un été marqué par des incidents de piratage coordonnés impliquant des agents d'IA autonomes, Dario Amodei, PDG d'Anthropic, a publié plus tôt ce mois-ci un essai appelant à un ralentissement de la recherche. Sam Altman (OpenAI) et Elon Musk (SpaceX) ont rapidement soutenu cette vision, mettant en garde contre des conséquences potentiellement catastrophiques comme le bioterrorisme si le rythme actuel se maintient. Amodei a exhorté l'industrie à initier un ralentissement coordonné, tout en demandant au gouvernement américain de « médier ou au moins permettre » cette action. Peu après, Chris Lehane, responsable mondial des politiques chez OpenAI, a révélé que son entreprise collaborait depuis plusieurs semaines avec DeepMind et Anthropic sur ces questions de sécurité.

L'argument commercial de Meta

Pour Zuckerberg, aucune intervention gouvernementale ni réponse coordonnée n'est nécessaire. Il avance un argument économique : il existe une incitation commerciale à réussir la sécurité, car les utilisateurs n'adopteront pas un produit s'ils ne lui font pas confiance. « Je pense que l'alignement est en réalité la capacité la plus importante à maîtriser ensuite si nous voulons faire de cela quelque chose d'utile pour beaucoup de gens », a-t-il affirmé.

Il a cité l'exemple de Muse, retardé de quelques mois pour améliorer le produit, qualifiant cette décision non pas de sacrifice, mais de choix juste pour les utilisateurs et pour Meta. Le patron de Meta a ajouté que les autres laboratoires devraient également reporter leurs nouvelles sorties si des points d'interrogation subsistent concernant la sécurité et l'alignement.

Un historique controversé

Le bilan de Meta en matière de sécurité de l'IA et de confidentialité des données reste pourtant loin d'être irréprochable. L'été dernier, le géant technologique a fait face à une vive polémique après un rapport de Reuters indiquant que Meta avait approuvé des outils d'IA permettant des conversations « sensuelles » avec des enfants et réaffirmant des croyances racistes. Parallèlement, un autre article de Reuters a mis en lumière le décès tragique d'un retraité, convaincu par le chatbot flirtant « Big sis Billie » de venir visiter son appartement inexistant à New York. Meta a aussi été accusé de créer des chatbots flirtant avec des célébrités, comme Taylor Swift, sans leur consentement apparent.

Récemment, l'entreprise a admis qu'un de ses modèles avait agi de manière autonome lors de tests de cybersécurité, pénétrant dans le système d'une autre société, un incident similaire à celui rapporté par OpenAI concernant Hugging Face. Plus tôt ce mois-ci, Meta a été poursuivie par des utilisateurs alléguant que leurs images intimes avaient été capturées par les lunettes Meta Glasses et envoyées à des sous-traitants au Kenya chargés de former l'IA de Meta. Cette affaire, révélée par deux journaux suédois, a conduit Meta à blâmer Sama, l'entreprise sous-traitante.

La création d'un organisme de normes

Tandis que Zuckerberg rejette la coordination, le reste du monde de l'IA semble avancer. Selon un rapport de The Information paru jeudi, Google, OpenAI et Anthropic créent un nouvel organisme de normes de sécurité pour l'IA. Provisoirement nommé Standards Frontier for AI (SAFA), cet organe devrait voir le jour d'ici fin 2026 ou début 2027. Sriram Krishnan, ancien partenaire général chez Andreessen Horowitz et conseiller senior de Trump sur la politique de l'IA, aurait été approché pour le diriger.

SAFA soutiendrait les organisations tierces testant les modèles d'IA avant déploiement, établirait des qualifications pour les auditeurs de sécurité indépendants et définirait les engagements de sécurité ainsi que les mécanismes de signalement d'incidents. Certains membres du groupe de travail envisagent même que l'organisation effectue elle-même des tests de sécurité et de capacités. OpenAI soutient par ailleurs un projet de loi bipartite à Washington, le FRONTIER Act, visant à créer un cadre fédéral pour la sécurité de l'IA et à obliger les principaux laboratoires à accepter des audits de sécurité provenant d'organisations de vérification indépendantes. Si les dernières informations sont exactes, ces organismes de vérification pourraient être déterminés par SAFA.

Le rapport suggère que SAFA pourrait être calqué sur la Financial Industry Regulatory Authority (FINRA), une organisation autorégulatrice pour les courtiers en valeurs mobilières. Bien que privée, la FINRA opère sous la supervision de la Securities and Exchange Commission.