Entre avertissements et réglementation : la réunion de Trump relance le débat sur la sécurité de l'IA

Le débat sur la sécurité de l'intelligence artificielle est revenu au premier plan après une réunion du président américain Donald Trump avec plusieurs grands dirigeants d'entreprises technologiques et d'IA à la Maison-Blanche, alors que les craintes concernant les risques posés par les modèles avancés restent largement débattues.

Trump a accueilli mardi des cadres dirigeants d'Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic, OpenAI et d'autres, quelques semaines après un débat national sur la sécurité de l'IA, marqué par des avertissements de chercheurs et de dirigeants du secteur concernant les dangers potentiels des modèles les plus puissants.

Tandis que les inquiétudes exprimées, notamment par Dario Amodei, PDG d'Anthropic, ont poussé certains décideurs politiques et experts industriels à exiger une régulation gouvernementale, Trump s'est fermement opposé à ces démarches, qualifiant les préoccupations relatives à l'IA de « supercherie ».

Lors de la réunion, les dirigeants technologiques ont signé un document de deux pages intitulé « Accord de la Maison-Blanche sur la Superintelligence : Engagement commun envers les responsabilités limites », publié par Trump sur son compte Truth Social.

Le document stipule que les entreprises participantes considèrent que « chaque entreprise est responsable du développement sécurisé de sa propre technologie, d'une manière qui instaure la confiance avec les clients et le public ».

Bradley Tusk, PDG de Task Ventures, a déclaré que nombre de ces directeurs généraux appelaient il y a environ deux semaines à une régulation du secteur, précisant que leur objectif était, selon lui, d'établir des règles créant une égalité entre les entreprises.

Le document préconise quatre étapes principales, incluant la mise en place d'un système interne de surveillance « robuste » des modèles, la formation d'une équipe interne pour garantir le fonctionnement des contrôles, la collaboration avec des auditeurs ou évaluateurs externes, et la nomination d'un comité indépendant du conseil d'administration pour superviser l'équipe interne.

Le dernier paragraphe du document indique qu'il pourrait être judicieux, avec le temps, d'inscrire ces mesures dans des lois ou des réglementations. Interrogé devant la Maison-Blanche sur le caractère contraignant de ces règles, Trump a répondu qu'elles étaient « contraignantes moralement ».

Trump promeut l'accord
La réunion ne portait pas uniquement sur l'accord de sécurité de l'IA, car Trump a également annoncé avoir signé un document prétendant changer officiellement le nom de l'intelligence artificielle en « superintelligence », tentant d'imposer ce changement de terminologie après un sondage sur les réseaux sociaux la semaine précédente.

Après la réunion, plusieurs dirigeants d'entreprises technologiques ont exprimé leur soutien aux efforts menés par Trump.

Mark Zuckerberg, PDG de Meta, a déclaré que l'accord visait à « donner au peuple américain et à nos clients la certitude que la technologie fonctionne comme prévu ».

Zuckerberg a ajouté que cet accord n'était pas la seule action que l'industrie entreprendrait, mais représentait un début et un consensus auquel l'ensemble du secteur pouvait parvenir.

Zuckerberg, aux côtés de Jensen Huang, PDG de Nvidia, se rapprochait davantage d'une approche d'autorégulation par rapport à Dario Amodei, PDG d'Anthropic, et Sam Altman, PDG d'OpenAI.

Amodei a déclaré après la signature que si l'accord était correctement mis en œuvre, en travaillant avec le président et tous les participants, « nous pouvons gagner en toute sécurité ».

Sundar Pichai, PDG d'Alphabet, a qualifié la réunion d'« historique et d'une importance cruciale ».

Montée des appels à la régulation
En revanche, avec l'augmentation des craintes liées aux failles de sécurité et l'évolution de la perception publique des entreprises d'IA à l'approche des élections de mi-mandat en novembre, les appels à la régulation devraient s'intensifier.

Un sondage national réalisé par Verasity en septembre a révélé que 63 % des participants estimaient que l'IA devrait ralentir, tandis que seulement 5 % pensaient qu'elle devrait accélérer.

Le sénateur Mark Warner, démocrate de Virginie, a déclaré mardi avoir présenté un projet de loi imposant des « tests et évaluations rigoureux » des dernières technologies d'IA, renforçant la sécurité et la notification avant le déploiement des modèles les plus puissants.

Warner a ajouté que les entreprises développant les systèmes d'IA les plus puissants avertissent que la technologie évolue plus vite que les garde-fous, estimant que le changement de nom de l'IA et l'appel à l'autorégulation des entreprises ne traitent pas les risques liés aux systèmes constamment évolutifs.