Anthropic fixe les seuils d'un futur cadre fédéral sur l'IA

Anthropic, concepteur de l'assistant intelligent Claude, milite pour l'établissement d'une régulation nationale uniforme encadrant les systèmes d'intelligence artificielle avancés aux États-Unis. La firme a soumis une proposition législative définissant strictement les conditions permettant aux autorités d'interdire la diffusion ou l'exploitation d'un modèle algorithmique.

Selon cette initiative, relayée par Politico, l'exécutif ne pourrait exercer son droit de veto que face à une menace imminente susceptible d'engendrer des pertes financières supérieures à un milliard de dollars. Le second critère déclencheur concerne la survenue de décès ou de blessures graves affectant plus de cinquante personnes.

Critères d'intervention et obligations de transparence

Le texte identifie plusieurs scénarios nécessitant une action publique, notamment la fabrication potentielle d'armes biologiques via ces outils, leur échappement aux garde-fous techniques installés par les développeurs, ou leur utilisation dans des cyberattaques. Des audits réguliers confiés à des experts indépendants sont également prévus, accompagnés d'une obligation de publication des rapports de risque et des plans de sécurité par les entreprises concernées.

La protection des lanceurs d'alerte internes figure parmi les dispositions clés, tout comme l'obligation de signaler les incidents majeurs. Si une agence fédérale détecte un danger répondant aux seuils fixés, elle doit informer le département du Commerce américain sous soixante-douze heures après la finalisation de son analyse. Cette notification permettrait ensuite au ministère de saisir un juge fédéral siégeant à Washington pour obtenir une suspension immédiate du modèle incriminé.

Tensions entre contrôle public et innovation privée

Cette démarche intervient alors que les inquiétudes croissent concernant la capacité des agents autonomes à scanner le web, identifier des failles de sécurité ou les exploiter malveillamment. Anthropic tente ainsi d'articuler surveillance des dangers technologiques et préservation de la liberté d'innovation, en plafonnant les prérogatives étatiques.

Des interrogations subsistent toutefois quant au niveau élevé des seuils de dommages requis avant toute intervention officielle, certains experts estimant que des risques significatifs peuvent exister sans atteindre ces chiffres. Le projet vise aussi à harmoniser les règles nationales en réduisant certaines exigences imposées par les lois locales, telles que les déclarations de risques ou les évaluations tierces, ce qui pourrait raviver les débats sur la répartition des compétences entre l'État fédéral et les différents États.

La société précise que cette proposition s'inscrit dans sa propre philosophie de sécurité pour l'IA. À ce stade, le texte n'a pas été adopté et l'administration Trump n'a pas encore indiqué si elle soutiendra cette approche.