.

.

Désarmer l’IA

Dans cette première encyclique, le pape Léon propose non pas une simple réflexion sur les développements numériques en cours mais bien plus une vaste analyse de notre monde façonné par l’intelligence artificielle (IA) avec, au cœur de son propos, la protection de la dignité humaine.

« Désarmer ne signifie pas renoncer à la technologie, mais l’empêcher de dominer l’humain » (§ 110), tel en est sans doute l’axe fondamental. « La tâche, aujourd’hui, n’est pas seulement éthique ou technique », à ses yeux : « Elle est écologique au sens le plus radical, car elle met en jeu une nouvelle dimension de notre maison commune. L’IA est déjà un environnement dans lequel nous sommes immergés et un pouvoir avec lequel nous devons composer. C’est pourquoi il ne suffit pas de la réglementer : elle doit être désarmée et rendue accessible. »

.

Une demande de pardon pour l’esclavage et une mise en garde face à un nouveau colonialisme

Le pape met en garde face au risque de nouvelles formes d’esclavage et de colonialisme, « non moins honteuses que celles du passé » que peut générer l’économie numérique (celle-ci peut facilement devenir à ses yeux un « espace de prédation », notamment des données numériques permettant de contrôler les peuples). « Ne pas réagir avec fermeté ou tolérer de quelque manière que ce soit ces pratiques revient, dans une certaine mesure, à se rendre aujourd’hui complice des fautes commises hier, lorsque l’esclavage était justifié ou passé sous silence », lance-t-il dans un passage particulièrement fort. Pour rendre d’autant plus crédible cette mise en garde, Léon XIV demande pardon au nom de l’Église pour le retard avec lequel elle a, elle-même, condamné l’esclavage.

.

Le dépassement de la théorie de la « guerre juste »

Aujourd’hui, cette théorie est pour Léon XIV « trop souvent invoquée pour justifier n’importe quelle guerre, sous réserve du droit à la légitime défense ». Magnifica humanitas est aussi une vibrante alerte face aux risques de nouvelles guerres. Le pape dénonce un double glissement : non seulement une course au réarmement, mais aussi une banalisation de la guerre dans les esprits, alimentée par « des récits médiatiques polarisants, souvent amplifiés par des algorithmes qui valorisent la confrontation et l’opposition ».

« La guerre n’est pas seulement menée, mais aussi préparée culturellement à travers des récits simplistes, des logiques ami-ennemi, la désinformation et la peur, dénonce-t-il. Lorsque la mémoire historique s’estompe et que les critères éthiques qui protègent les civils et les plus fragiles s’affaiblissent, il devient plus facile de présenter la violence comme nécessaire, inévitable, voire “propre”. C’est dans ce climat que l’humanité est en train de glisser vers une culture violente de la puissance » (§192).

.

Le salut passe souvent à travers les limites

Face aux promesses du transhumanisme et du posthumanisme – qui prétendent dépasser les limites humaines, mais conduisent en réalité à la déshumanisation –, le pape propose une autre voie de salut : « L’humain ne s’épanouit pas malgré la limite, mais souvent à travers la limite » (§ 118). C’est souvent dans l’épreuve qu’il devient plus humain, et s’ouvre à « la reconnaissance du visage de Dieu et de l’autre » (§ 122). « Pour un algorithme, l’erreur est quelque chose à corriger ; pour une personne, elle peut être le début d’un changement profond. »

Si l’enjeu essentiel pour Léon XIV est de « rester profondément humain » à l’ère des technologies, il honore aussi l’aspiration légitime de l’être humain à « se transcender ». Mais le véritable « plus qu’humain » n’est pas technologique, souligne-t-il : c’est l’homme rejoint par Dieu dans sa fragilité et sa finitude, et porté au-delà de lui-même, élevé dans sa capacité de relation et d’amour. Le véritable « plus qu’humain » ne découle pas « d’une divinisation technologique, mais de l’opération de la grâce de Dieu reçue dans le Christ », visage parfait de notre « magnifique humanité ».

.

Babel ou Jérusalem

Quel monde voulons-nous construire ?, interroge le pape. « Le véritable choix ne se situe pas entre l’enthousiasme et la peur (face à l’IA), mais entre deux façons de construire : un progrès au service de la personne et des peuples, ou un progrès qui les soumet à des logiques de pouvoir. » Ce que Léon XIV illustre avec deux images : celle de la tour de Babel (symbole du paradigme technocratique, d’uniformisation, de prétention à l’autosuffisance, de domination qui sacrifie les plus faibles) et celle de la reconstruction par le peuple des murs de Jérusalem (synonyme d’une union de toutes les forces pour édifier le bien commun et la coexistence fraternelle).

.

Le principe de la destination universelle des biens étendu aux algorithmes

Léon XIV passe la révolution numérique au crible de la doctrine sociale de l’Église et de ses six principes qui sont autant de critères de discernement : la dignité humaine, le bien commun, la destination universelle des biens, la subsidiarité, la solidarité et la justice sociale, principes auxquels il ajoute le respect de l’écologie intégrale.

Attentif, tout au long de l’encyclique, à l’emprise que de grandes entreprises technologiques peuvent avoir sur les populations, il élargit la liste des biens universellement destinés à tous aux données numériques et aux algorithmes : « La propriété des données ne peut être confiée uniquement à des acteurs privés » (§ 108), affirme-t-il, soulignant : « … Quand ces biens restent concentrés entre les mains de quelques-uns, sans formes adéquates de partage et d’accès, il se crée un nouveau déséquilibre contredisant la destination universelle des biens et alimentant le fossé entre les inclus et les exclus… » (§ 67).

.

Un examen de conscience pour l’Église

Pour Léon XIV, la doctrine sociale « n’est pas seulement un message adressé à la société : c’est aussi un examen de conscience pour l’Église ». Avant d’en appliquer les six principes à l’IA, il en fait pour l’Église des axes de réforme. Le bien commun, « en contexte ecclésial, prend le visage d’un style synodal pour la mission au service du Royaume ». La subsidiarité doit quant à elle soutenir « la responsabilité des fidèles », la valorisation des charismes et des compétences, et éviter « tout paternalisme qui étouffe la liberté évangélique ». Même exigence avec le principe de justice : cette dernière implique l’écoute des victimes d’abus – spirituels, économiques, institutionnels, sexuels, de pouvoir et de conscience – avec reconnaissance du préjudice, juste réparation et prévention. Le pape salue au passage le travail de « certains journalistes passionnés par la vérité (qui) ont joué un rôle fondamental dans la mise en lumière d’injustices et d’abus ».

.

« Des critères sociaux pour l’innovation »

Dans les pas de Léon XIII qui, 135 ans plus tôt, a placé au centre de sa grande encyclique Rerum Novarum la dignité du travail et de l’ouvrier, Léon XIV consacre une grande part de sa réflexion (chapitre 4) à l’impact de la transition numérique sur le travail.

« La règle générale doit rester la protection des emplois et du rôle irremplaçable de la personne », souligne-t-il. Il met en garde face aux fausses promesses de l’IA et à ses effets pervers – déqualification des travailleurs, surveillance automatisée, relégation à des « tâches rigides et répétitives » –, appelant à encadrer l’IA, au niveau national et international (protection de l’emploi, encadrement des marchés, « critères sociaux pour l’innovation »…).

.

Un refus ferme de déléguer la décision létale à un algorithme

Le pape avait déjà alerté sur les dérives de l’IA dans la guerre : déresponsabilisation des décisions des acteurs et réduction des victimes à de simples données. Là, il va un cran plus loin en refusant fermement toute délégation du droit de tuer à un algorithme. « Le jugement moral ne se réduit pas à un simple calcul : il implique la conscience, la responsabilité personnelle et la reconnaissance de l’autre en tant que personne », souligne-t-il (§ 198), affirmant que « la décision de recourir à la force létale ne peut être déléguée à des processus opaques ou automatisés, mais doit rester sous un contrôle humain effectif, conscient et responsable » (§200).

Comme ailleurs dans l’encyclique, ce pape juriste de formation n’en reste pas à une éthique générale mais énumère des critères précis de discernement : chaîne des responsabilités identifiable, délais de décision suffisamment longs, identification et protection des victimes civiles.

.

Prendre chacun sa part du combat, comme dans le « Seigneur des anneaux »

Face au rouleau compresseur que pourrait représenter l’intelligence artificielle, le pape refuse toute résignation : « Personne n’est sans responsabilité. » « Chacun, écrit-il, dispose d’un propre champ d’action. » Il propose ainsi cinq pistes concrètes pour « faire barrage à la déshumanisation » (comme « désarmer les mots » ou « relancer le dialogue »). Et c’est là qu’il cite – une première dans une encyclique papale – un personnage de Tolkien dans Le Seigneur des anneaux, faisant pour ainsi dire entrer la saga dans le magistère romain : « Il ne nous appartient toutefois pas de rassembler toutes les marées du monde, mais de faire ce qui est en nous pour le secours des années dans lesquelles nous sommes placés, déracinant le mal dans les champs que nous connaissons, de sorte que ceux qui vivront après nous puissent avoir une terre propre à cultiver » (§ 213).

.

.