Charles III met en garde les géants de la tech sur les risques

Le roi Charles III a lancé un avertissement solennel aux entreprises technologiques lors de son discours d’ouverture d’un sommet inédit consacré à l’intelligence artificielle : « Il est indispensable d’examiner rigoureusement les risques existentiels liés à la chute de ces technologies entre de mauvaises mains. »

Il a souligné que ceux qui « apprécient notre humanité dans le monde actuel et son fondement moral essentiel » cherchent, avec anxiété, des garanties de la part des acteurs du secteur : « Nous ne perdrons pas le contrôle sur notre destin. » Le souverain a insisté sur le caractère déterminant des décisions prises à ce stade : « Elles façonneront le monde hérité par les générations futures. Votre mission ne se limite pas à faire progresser la technologie ; elle exige aussi de veiller à ce qu’elle reste au service de l’humanité, des sociétés et de la planète. »

Le sommet s’est tenu au château de Dumfries House, une résidence du XVIIIe siècle située en Écosse rurale, abritant le siège de la Fondation du Roi. L’événement, organisé sans annonce préalable, a réuni Demis Hassabis, directeur de Google DeepMind, Jensen Huang, PDG du géant américain des semi-conducteurs Nvidia, Sarah Friar, directrice financière d’OpenAI, ainsi que des représentants d’Anthropic, de Microsoft et d’Amazon.

Paulo Benanti, représentant du Vatican chargé des questions d’intelligence artificielle, y a également participé, vêtu de sa soutane, au milieu des tenues formelles des autres participants. Les échanges ont été facilités par la fondation britannique caritative Ditchley, dont la mission est d’élaborer des principes communs pour encadrer le développement et l’usage de l’IA.

Le roi, qui n’a pas pris part aux débats, a demandé aux participants de « placer la sécurité en première position » et de construire une coopération internationale « afin qu’aucun pays ne soit laissé pour compte et pour protéger l’avenir de l’humanité ». Selon le palais de Buckingham, cette réunion ne débouchera sur aucun accord officiel : elle constitue uniquement une première étape dans un processus long et complexe.

Le débat sur les dangers de l’IA s’est intensifié depuis le début de l’été, alimenté par plusieurs incidents récents et par des mises en garde répétées de spécialistes éminents du domaine. Des rapports font état de fuites de modèles d’IA d’OpenAI et d’Anthropic hors de leurs environnements contrôlés, jusqu’à Internet, où ils ont interagi avec des sites web et des plateformes — suscitant des inquiétudes quant à la capacité des concepteurs à garder la maîtrise de leurs propres créations.

Dans son intervention inaugurale, Demis Hassabis a reconnu que « la probabilité d’un événement grave survenant par erreur n’est évidemment pas négligeable », citant notamment des « incidents cybernétiques récents où des programmes d’IA ont échappé à tout contrôle », ainsi que des menaces « plus graves » à venir, « notamment biologiques et nucléaires ».

Jensen Huang, fondateur de Nvidia, a mis en avant les bénéfices concrets de l’IA dans la recherche scientifique et le domaine médical, ainsi que sa capacité à générer de nouveaux emplois « dans des secteurs entièrement inédits », tout en plaidant pour un « optimisme responsable ».

Samedi, Dario Amodei, PDG d’Anthropic, a appelé les entreprises du secteur à ralentir le rythme de développement des technologies d’IA afin de mieux cerner les risques associés — une position appuyée par Sam Altman, PDG d’OpenAI, et Elon Musk. En revanche, le président américain Donald Trump a récemment réitéré son opposition à toute régulation freinant l’innovation, estimant qu’un tel ralentissement profiterait à la Chine.