Une intelligence artificielle puissante comme une "bombe nucléaire" : une nouvelle arme qui trouble le Pentagone

Les États-Unis ont franchi une nouvelle étape confuse dans la course aux armes en matière d'intelligence artificielle, après que des modèles avancés d'outils d'aide se soient transformés en capacités potentielles d'effraction dans les réseaux ennemis et d'évaluation des défenses des systèmes militaires, tandis que des craintes américaines persistent quant à ce que la Chine soit à seulement quelques mois de disposer de capacités similaires.

Un article du New York Times a révélé que ce changement a provoqué un état de confusion au sein des institutions de sécurité nationale américaine, manifeste dans le conflit entre le Pentagone et l'entreprise Anthropic, où la volonté du ministère de la Défense de séparer les technologies de l'entreprise de ses systèmes s'est heurtée à la nécessité d'un modèle d'intelligence artificielle avancé susceptible de devenir une arme décisive dans la guerre cybernétique.

Ordres contradictoires

Selon le journal, les principaux contractants militaires américains ont reçu, mi-juillet, des instructions des forces aériennes exigeant qu'ils se débarrassent, d'ici le 1er septembre, des produits d'Anthropic utilisés dans les logiciels d'armes et les systèmes de contrôle, sous peine de mettre en danger leurs activités avec le Pentagone.

Mais environ un mois plus tard, une lettre contraire est arrivée, demandant de faire preuve de prudence et de ne pas supprimer les produits de l'entreprise pour le moment, reflétant ainsi l'état de confusion qui touche Washington face à l'évolution accélérée de l'intelligence artificielle.

Cette crise remonte à un désaccord public entre le secrétaire à la Défense Pete Hegseth et le PDG d'Anthropic, Dario Amodei, concernant les restrictions imposées à l'utilisation des technologies de l'entreprise dans le domaine militaire.

Amodei a exigé une garantie contre l'utilisation des produits de son entreprise pour la surveillance intérieure des Américains ou pour produire des armes entièrement autonomes sans contrôle humain, mais le Pentagone a refusé ces conditions et a classé l'entreprise comme « risque pour la chaîne d'approvisionnement », avant d'interdire ses produits dans le secteur militaire.

Désarmement unilatéral

L'ironie est apparue lorsque Anthropic a annoncé le modèle « Mythos », conçu pour détecter et exploiter les failles logicielles, plaçant ainsi l'institution militaire devant une énigme inattendue : Washington s'était interdit lui-même l'utilisation d'une technologie pouvant devenir l'une des armes cybernétiques les plus puissantes.

Le journal cite un ancien responsable américain affirmant que renoncer à « Mythos » équivalait à un « désarmement unilatéral », en raison de ses capacités potentielles dans les opérations cybernétiques offensives.

Malgré l'interdiction du Pentagone d'utiliser « Claude » pour l'analyse d'informations ou l'écriture de code, l'Agence nationale de sécurité (NSA) a obtenu une exemption pour utiliser des versions expérimentales de « Mythos », afin d'évaluer les défenses des réseaux militaires américains et de repérer des points faibles potentiels dans les réseaux des adversaires, notamment la Chine, la Russie, la Corée du Nord et l'Iran.

La Chine à quelques mois

La préoccupation dépasse le conflit avec Anthropic : des experts américains pensent que la Chine pourrait être en retard de seulement six mois ou moins sur les États-Unis dans le développement des modèles d'intelligence artificielle les plus avancés, malgré la persistance de l'écart dans la fabrication de semi-conducteurs de pointe.

Washington craint que ces capacités donnent à Pékin des outils plus puissants pour pénétrer les réseaux de communication, d'eau et d'électricité américains, notamment après les attaques « Volt Typhoon » et « Salt Typhoon », tandis que des responsables anciens mettent en garde sur le fait que l'intelligence artificielle est désormais capable de multiplier de manière sans précédent les capacités des attaques cybernétiques.

Le niveau de préoccupation a atteint un tel point que le directeur de la CIA, John Ratcliffe, a comparé les capacités de l'intelligence artificielle à des « armes nucléaires numériques », alors que les institutions américaines ont dépensé des milliards de dollars pour intégrer cette technologie dans le développement des armes, l'essai des réseaux militaires et même la vérification de la résilience des systèmes liés aux armes nucléaires face aux tentatives d'effraction par intelligence artificielle.