Dans un discours prononcé au Vatican, le souverain pontife a exhorté l’humanité à « désarmer » l’intelligence artificielle, convoquant une analogie avec le nucléaire pour alerter sur les dérives d’une technologie qu’il juge capable, autant de libérer que de détruire.

Pour son premier document encyclique — principal instrument doctrinal et moral du pape pour éclairer les grandes questions contemporaines à la lumière de la foi — Léon XIV a choisi de marquer les esprits en abordant l’essor de l’intelligence artificielle et ses conséquences pour la société.

Le premier pape américain de l’histoire de l’Église catholique affirme avoir reçu des témoignages préoccupants sur des systèmes d’armes de plus en plus autonomes, « pratiquement hors de toute capacité humaine à être contrôlés efficacement ».

Il a également évoqué des algorithmes susceptibles de restreindre l’accès aux soins, à l’emploi ou à la protection sociale, sur la base de données biaisées par des préjugés et des inégalités structurelles.

De ces constats est née, d’après lui, une conviction inscrite au cœur même de son encyclique baptisé Magnifica humanitas (« Magnifique humanité »), selon laquelle, l’intelligence artificielle mérite d’être appréhendée avec éthique et responsabilité.

« Ne dormons pas comme les autres… »

« Les décisions sur la technologie ne doivent jamais être séparées de la conscience et de la responsabilité », a-t-il insisté, citant l’apôtre Paul : « Ne dormons pas comme les autres, mais restons éveillés. »

Selon le souverain pontife, à l’instar de l’énergie nucléaire, l’intelligence artificielle doit être « libérée des logiques qui en font un instrument de domination, d’exclusion et de mort », afin d’être mise au service du bien commun.

« Ce qui est nécessaire, c’est une implication politique plus active, capable de ralentir les choses alors que tout s’accélère. (…)  L’intelligence artificielle peut être un chantier de l’histoire, à l’intérieur d’un horizon de communion dans lequel le progrès technique apprend à servir la vie humaine », a déclaré Léon.

Un contexte particulièrement propice

D’après le pape, personne ne doit être laissé à l’écart de la transformation numérique, ni réduit à sa seule productivité, à ses performances cognitives ou à des données.

Il met notamment en lumière certaines régions du monde où « des enfants et des adolescents travaillent dans des conditions dangereuses, broyant des matériaux nécessaires à l’extraction des terres rares ».

« Leurs corps sont marqués, blessés et usés afin que le flux computationnel puisse se poursuivre sans interruption. Cette réalité interpelle profondément la conscience morale de notre époque », a-t-il ajouté devant un auditoire composé de scientifiques, de responsables politiques et d’ingénieurs, dont Chris Olah, cofondateur d’Anthropic, l’une des principales entreprises du secteur.

« Chaque laboratoire d’IA de pointe, y compris Anthropic, évolue dans un système d’incitations et de contraintes qui peuvent parfois entrer en contradiction avec l’exigence d’agir de manière éthique », a déclaré ce dernier, dont l’entreprise s’est récemment brouillée avec l’administration américaine après son refus de voir sa technologie utilisée à des fins militaires.