Anthropic propose une loi fédérale pour encadrer l'IA

Anthropic, développeur de l'assistant d'intelligence artificielle Claude, a confirmé vendredi qu'un projet de loi destiné à réguler cette technologie circule actuellement parmi les législateurs américains. Cette initiative intervient dans un contexte où aucune législation fédérale ne couvre encore les dangers potentiels posés par ces nouveaux outils numériques.

Selon la version préliminaire révélée par le site Politico, ce texte permettrait à Washington d'interdire le déploiement ou l'utilisation de tout modèle d'IA si un risque imminent de décès ou de blessures graves touchant plus de 50 personnes est identifié, ou si des dommages dépassant un milliard de dollars sont envisagés. Une telle intervention nécessiterait toutefois une validation judiciaire préalable.

Mécanismes de contrôle et obligations

Un porte-parole de l'entreprise a indiqué à l'AFP que la proposition confère au gouvernement fédéral les moyens d'empêcher ou de dissuader la diffusion dangereuse des modèles d'IA les plus puissants. Le document impose également aux principaux acteurs du secteur l'obligation de tester leurs systèmes avancés, de publier les résultats de ces évaluations avec transparence, de soumettre les modèles à des audits indépendants et de maintenir un programme de sécurité robuste.

Actuellement, la politique américaine en matière d'intelligence artificielle repose essentiellement sur des engagements volontaires pris par les entreprises du secteur, complétés par des décrets exécutifs visant à soutenir la croissance de cette industrie, considérée comme un moteur économique par les dirigeants technologiques.

Contexte politique et réactions

Le Congrès, divisé politiquement et sous forte pression des grandes compagnies technologiques, n'a pas encore adopté de loi fédérale régulant l'IA. Il se trouve actuellement en pause jusqu'après les élections de mi-mandat prévues le mois prochain. La question de la sécurité a pris une ampleur notable après la révélation récente d'incidents causés par des « agents d'intelligence artificielle », des logiciels autonomes capables d'exécuter des séquences de tâches complexes.

Anthropic avait déjà dû suspendre pendant trois semaines le fonctionnement de ses modèles les plus avancés sous la pression de Washington, après avoir été exclue par l'administration Donald Trump de toute collaboration avec le département de la Défense en février dernier. Le mois précédent, le directeur général Dario Amodei avait appelé le secteur à ralentir le rythme du développement, craignant qu'une coalition d'agents d'IA ne prenne le contrôle de « l'ensemble d'Internet » dans un délai de six à douze mois. En réponse, Donald Trump a qualifié ces appels répétés à freiner la technologie de « forces négatives ».

Le projet de loi prévoit aussi de supplanter certaines réglementations étatiques, notamment celles en vigueur en Californie. En juin, Anthropic affirmait pourtant qu'en l'absence d'une loi fédérale solide, les États devaient conserver leur pleine autorité pour légiférer. Charlie Pollock, chercheur à l'Institute for Law and Artificial Intelligence, a jugé la proposition « très raisonnable » et supérieure aux initiatives des autres laboratoires leaders. Il a néanmoins noté sur X que le texte reste moins contraignant que la loi « Frontier », un projet concurrent présenté à la Chambre des représentants cet été.