Anthropic retire deux modèles d'IA suite à un ordre de contrôle à l'exportation du gouvernement Trump

Anthropic a récemment mis hors ligne ses deux modèles d’intelligence artificielle les plus récents, Fable 5 et Mythos 5, en réponse à un ordre de contrôle à l’exportation émanant de l’administration Trump. Cette décision a déclenché un large débat sur la politique liée à l’intelligence artificielle et la souveraineté numérique.

Lors du dernier épisode du podcast Equity de TechCrunch, Sean O’Kane, Rebecca Bellan et Anthony Ha ont analysé les raisons qui ont motivé cette mesure contre Anthropic ainsi que ses conséquences possibles pour l’écosystème global de l’IA.

Sean O’Kane a souligné que « Anthropic n’a pas entretenu la meilleure relation avec l’administration Trump, d’une manière qui la distingue des autres laboratoires d’IA majeurs », ce qui pourrait signifier que les concurrents d’Anthropic n’ont pas à craindre une répression similaire.

Rebecca Bellan a ajouté que plusieurs experts en cybersécurité ont signé une lettre ouverte demandant à Trump de revenir sur cet ordre, estimant qu’il est dangereux de priver les défenseurs des réseaux américains de ces capacités avancées en cybersécurité.

Les intervenants ont également évoqué la possibilité que cette controverse profite finalement à Anthropic, notamment parce que, selon Rebecca, « tout le monde aime un mauvais garçon ».

Rebecca Bellan a expliqué que le gouvernement américain a contraint Anthropic à retirer Fable 5 et Mythos 5, ces derniers étant respectivement destinés au grand public et aux utilisateurs actuels de Mythos. Une lettre envoyée vendredi dernier évoquait des « préoccupations liées à la sécurité nationale », sans en préciser la nature. Anthropic devait s’assurer que ces modèles ne soient pas utilisés par des ressortissants étrangers, ce qui a conduit l’entreprise à les retirer complètement, faute de pouvoir identifier précisément la nationalité des utilisateurs, d’autant que plusieurs employés d’Anthropic sont eux-mêmes étrangers.

Selon des informations, la Maison-Blanche aurait été alertée par des chercheurs d’Amazon qui auraient découvert un moyen de contourner les garde-fous de Fable 5. Andy Jassy, PDG d’Amazon, aurait alors transmis ces inquiétudes au gouvernement, déclenchant ainsi la réaction rapide des autorités.

Sean O’Kane a rappelé que cette affaire s’est déroulée très vite, notamment un vendredi après-midi, alors que l’administration tentait parallèlement de négocier un traité lié à un conflit en Iran. Il a aussi insisté sur le fait qu’Anthropic entretient des relations tendues avec cette administration, ce qui pourrait expliquer en partie la sévérité de la mesure.

Anthony Ha a précisé que les rapports et analyses d’experts indépendants en sécurité indiquent que les risques réels liés à Anthropic ne sont pas exceptionnels. Il estime que cette situation est en grande partie due à des tensions entre Anthropic et certains membres de l’administration Trump, ce qui amplifie les risques perçus.

Rebecca Bellan a qualifié cette décision de « représailles », rappelant qu’après que le gouvernement a classé Anthropic comme un risque pour la chaîne d’approvisionnement, une importante procédure judiciaire est en cours entre les deux parties. Elle a souligné que plusieurs chercheurs en cybersécurité estiment que cet ordre de contrôle à l’exportation n’aurait jamais dû être déclenché et qu’il est dangereux de retirer ces capacités avancées aux défenseurs de réseaux américains. Anthropic a également reconnu que des failles similaires auraient pu être découvertes dans plusieurs autres modèles d’IA.

Rebecca s’interroge cyniquement sur l’objectif réel de cette pause imposée à Anthropic, qui pourrait permettre à ses concurrents de rattraper leur retard. Elle note aussi que certains estiment qu’« Anthropic l’a un peu cherché », l’entreprise ayant à la fois alerté sur les dangers de l’IA et lancé un modèle très puissant peu après.

Anthony Ha considère que cette affaire illustre bien le débat plus large autour de l’intelligence artificielle, où des figures comme Sam Altman ou Jensen Huang appellent à apaiser les tensions, alors qu’ils ont contribué à alimenter la peur en présentant leurs technologies comme des machines capables de remplacer les emplois. Il souligne que la communication d’Anthropic sur Mythos, présenté comme un modèle trop dangereux pour être rendu public, entraîne une attention et une surveillance accrues.

Anthony rappelle que lors d’un précédent conflit avec l’administration Trump, la popularité d’Anthropic avait augmenté, notamment avec une hausse des téléchargements de Claude, leur chatbot. Certains utilisateurs ont alors vu en Claude une alternative plus responsable et résistante que ChatGPT.

Rebecca conclut en notant que cette image de « modèle dangereux » peut paradoxalement renforcer l’attrait d’Anthropic, car « tout le monde aime un mauvais garçon ». La mention explicite de la puissance du modèle par Trump lui confère une aura supplémentaire, incitant les utilisateurs à vouloir y accéder.