Le pape François appelle à désarmer l'intelligence artificielle pour protéger l'humanité

Le pape François a appelé à « désarmer » l'intelligence artificielle (IA) pour protéger l'humanité de ses dangers, rejoignant ainsi un débat intense sur la nécessité d'encadrer cette technologie qui transforme profondément le monde.

Dans un discours adressé à l'Église catholique, il a exhorté à rendre l'IA plus compatible avec les besoins humains, à la libérer de toute mainmise monopolistique et à éviter qu'elle soit exploitée à des fins géopolitiques ou commerciales.

Dans son message pontifical publié lundi, le pape a déclaré : « Désarmer signifie réfuter l'idée que la puissance technique confère automatiquement le droit de gouverner ». Il a ajouté : « Désarmer ne veut pas dire rejeter la technologie, mais empêcher qu'elle prenne le contrôle de l'humanité », selon un rapport de l'agence Bloomberg consulté par "العربية Business".

En soulignant publiquement l'urgence de protéger les êtres humains à l'ère de l'intelligence artificielle, le premier pape américain de l'histoire s'est placé en opposition potentielle avec le président américain Donald Trump, favorable à un assouplissement des restrictions sur cette technologie en rapide évolution afin de conserver un avantage concurrentiel face à la Chine.

Âgé de 70 ans, le pape François s'inscrit ainsi dans le débat sur la régulation des modèles d'IA, alors que des inquiétudes grandissent concernant leur capacité à perturber le système bancaire, à cibler des objectifs militaires, voire à remplacer les humains dans de nombreuses prises de décision.

La publication de son document intitulé « Magnifica humanitas » – qui signifie « la grande humanité » en latin – constitue l'œuvre la plus importante du pape depuis son accession à la tête des 1,4 milliard de catholiques dans le monde il y a un an. Les messages pontificaux servent traditionnellement à fournir des orientations morales sur les grands défis contemporains, tels que le changement climatique ou les migrations.

Mathématicien de formation, François a également mis en garde contre les risques liés à l'utilisation de l'informatique dans les conflits armés et la perte des considérations éthiques. Il a affirmé : « Aucune algorithme ne peut rendre la guerre moralement acceptable ».

Le pape a précisé : « L'intelligence artificielle n'élimine pas l'inhumanité fondamentale du conflit, mais peut en accélérer le rythme et le rendre plus abstrait, déshumanisé ».

Ses propos interviennent alors que la révélation de « Mythos », un modèle d'IA développé par la société Anthropic capable d'identifier des vulnérabilités inconnues dans les systèmes informatiques, a suscité une inquiétude mondiale ces derniers mois.

Dans ce contexte d'alerte sur les dangers d'une IA non régulée, le Vatican a invité Christopher Olah, cofondateur d'Anthropic et expert en apprentissage automatique.

Anthropic, créatrice du chatbot « Claude », est en conflit avec l'administration Trump concernant l'usage de sa technologie dans le domaine militaire et de la surveillance.

Le vice-président américain J.D. Vance, converti au catholicisme et proche du milliardaire de la Silicon Valley Peter Thiel – l'un des premiers investisseurs dans OpenAI – a laissé entendre une montée des tensions. Récemment, François et Trump se sont mutuellement accusés sur la question de l'opposition du pape à une guerre contre l'Iran.

Lors d'une conférence de presse le 19 mai, Vance a déclaré : « Je pense que lorsque le dirigeant de la plus grande confession chrétienne au monde s'exprime sur un tel sujet, cela a forcément un impact. Je suis certain qu'il y a beaucoup de sagesses, certaines avec lesquelles je suis d'accord, d'autres non ».