Magnifica humanitas

Nous vivons une phase de transition rapide, un “tournant historique”, où – tandis que certains se disputent l’avenir des nouvelles technologies et que d’autres s’attachent à y réfléchir – la plupart des personnes restent dans l’expectative, observent de loin et espèrent simplement que tout ira pour le mieux. C’est précisément pour cette raison que des questions décisives s’imposent à notre conscience, questions auxquelles on ne peut plus échapper : où allons-nous ? Vers quel but souhaitons-nous nous orienter ? Quelle direction choisir en tant que communauté humaine et en tant que peuples ?

9 (…) Les découvertes scientifiques sont un talent confié à l’humanité afin qu’elle le fasse fructifier (cf. Mt 25, 14-30). La technologie peut soigner, relier, éduquer, protéger la Maison commune ; mais elle peut aussi diviser, rejeter, engendrer de nouvelles injustices. En théorie, elle n’est pas en soi une solution aux problèmes de l’humanité, tout comme elle n’est pas en soi un mal ; mais concrètement, elle n’est pas neutre, car elle prend le visage de ceux qui la conçoivent, la financent, la régulent et l’utilisent. C’est pourquoi le premier choix ne se situe pas entre un “oui” ou un “non” à la technologie, mais entre bâtir Babel ou reconstruire Jérusalem ; entre un pouvoir qui prétend dominer le ciel et un peuple qui, en présence de Dieu, se met à travailler de manière unie pour relever les murs de la cohabitation fraternelle.

10. Évitons donc le “syndrome de Babel” : l’idolâtrie du profit qui sacrifie les plus faibles, l’uniformité qui gomme les différences, la prétention d’un langage unique – y compris numérique – capable de tout traduire, même le mystère de la personne, en données et en performances. C’est là le risque de la déshumanisation – construire l’avenir en excluant Dieu et en réduisant l’autre à un moyen –, une tentation ancienne et toujours nouvelle qui prend aujourd’hui aussi un visage technique. Choisissons plutôt la “voie de Néhémie” mettant en évidence la valeur du travail partagé pour rendre sûre la cité de Dieu pour les exilés de retour. Reconstruire aujourd’hui, c’est reconnaître que, dans la pluralité des voix et des visions rappelant parfois la dispersion des langues, il existe néanmoins une possibilité lumineuse : celle de bâtir ensemble, en transformant la diversité en ressource et en faisant de l’écoute comme du dialogue le terrain d’entente sur lequel faire grandir la justice et la fraternité. Au sein de cette œuvre commune, les chrétiens trouvent leur propre manière de construire : orienter l’action vers Dieu afin que, à sa lumière, le pluralisme ne se disperse pas dans le désordre, mais devienne, dans l’exercice de la synodalité, l’espace où l’humanité retrouve ses fondements solides et sa fin ultime.

15 (…) À l’ère de l’intelligence artificielle où la dignité humaine risque d’être éclipsée par de nouvelles formes de déshumanisation, nous avons le devoir urgent de rester profondément humains, en préservant avec amour cette magnifique humanité qui nous a été donnée et manifestée dans sa plénitude dans le Christ, mais qu’aucune machine ne pourra jamais remplacer dans sa splendeur. Le véritable progrès naît toujours d’un cœur ouvert à l’autre, d’une intelligence disposée à l’écoute, d’une volonté qui cherche ce qui unit plutôt que ce qui sépare.

16. À tous les fidèles catholiques, à tous les chrétiens, à tous les hommes et à toutes les femmes de bonne volonté, j’adresse un appel vibrant : ne craignons pas de nous salir les mains sur le chantier de notre époque. Comme Néhémie, prions, planifions avec sagesse, travaillons avec persévérance en replaçant Dieu à l’horizon de notre action et l’être humain au centre de nos choix.

En fin de compte, la question décisive reste celle posée par saint Jean-Paul II : l’IA rend-elle« la vie humaine sur la terre “plus humaine” à tout point de vue ? La rend[-elle] plus “digne de l’homme” ? ». [138] Si la réponse est oui, alors nous pouvons y reconnaître une opportunité à accueillir avec responsabilité, dans un chemin de reconstruction patiente et partagée, sur le modèle de la renaissance de Jérusalem racontée dans le livre de Néhémie. Si, au contraire, la puissance grandit tandis que le cœur s’assèche et que les liens se rompent, alors nous sommes face à une nouvelle forme de Babel : une construction grandiose, mais inhumaine.

183 : Face à ces transformations, nous devons nous référer aux principes de la Doctrine sociale – dignité de la personne, bien commun, destination universelle des biens, subsidiarité, solidarité, justice – comme critères pour juger si les technologies servent réellement l’humanité ou finissent par l’asservir, et les considérer comme lignes directrices pour nos choix.

La culture du pouvoir

188. Dans le monde actuel une culture de la puissance s’installe progressivement, où la disponibilité des moyens et la capacité de dominer tendent à dicter l’ordre du jour et les critères de décision, en reléguant le bien commun de l’humanité au second plan et en réduisant le drame concret des peuples en guerre à une variable secondaire face aux intérêts stratégiques. Cette culture de la puissance s’infiltre dans la société, modifie les relations et les comportements, se répand en normalisant la guerre, en recherchant une puissance militaire toujours plus grande, en profitant de la crise du multilatéralisme et en alimentant un faux réalisme qui répète qu’il n’existe pas d’alternatives.

La banalisation de la guerre

190. Aujourd’hui, en revanche, nous assistons à un véritable changement de paradigme dans le discours public et dans les choix en matière de réarmement, avec une réhabilitation inquiétante de la guerre en tant qu’instrument de politique internationale, tandis que les critères éthiques mêmes qui en avaient limité l’usage sont progressivement érodés.

192 (…)  Ainsi, la guerre n’est pas seulement menée, mais aussi préparée culturellement à travers des récits simplistes, des logiques ami-ennemi, la désinformation et la peur. Lorsque la mémoire historique s’estompe et que les critères éthiques qui protègent les civils et les plus fragiles s’affaiblissent, il devient plus facile de présenter la violence comme nécessaire, inévitable, voire “propre”. C’est dans ce climat que l’humanité est en train de glisser vers une culture violente de la puissance, où la paix n’apparaît plus comme une tâche à assumer, mais comme un intervalle précaire entre les conflits. Aujourd’hui plus que jamais, il est important de réaffirmer le dépassement de la théorie de la “guerre juste” trop souvent invoquée pour justifier n’importe quelle guerre, sous réserve du droit à la légitime défense dans son sens le plus strict. [182] La magnifique humanité dispose d’outils bien plus efficaces et capables de promouvoir la vie humaine pour faire face aux conflits, tels que le dialogue, la diplomatie, le pardon. Le recours à la force, à la violence et aux armes témoigne d’une pauvreté relationnelle qui a toujours des conséquences désastreuses sur les populations civiles.

Armes et IA

C’est pourquoi le développement et l’utilisation de l’IA dans le domaine militaire doivent être soumis aux contraintes éthiques les plus rigoureuses, dans le respect de la dignité humaine et du caractère sacré de la vie, en évitant une course aux armements.

(…)  Il n’est donc pas acceptable de confier à des systèmes artificiels des décisions mortelles ou, en tout cas, irréversibles. Il n’existe aucun algorithme capable de rendre la guerre moralement acceptable. L’IA ne soustrait pas le conflit à son inhumanité intrinsèque : elle ne peut que le rendre plus rapide et impersonnel, en abaissant le seuil du recours à la violence et en transformant la défense en prévision opérationnelle, les victimes étant réduites à de simples données. Ainsi, elle nous habitue à l’idée que la violence est inévitable et qu’il suffit de l’optimiser.

Tous nous pouvons apporter notre contribution

212. Cependant, arrivé à ce point, une tentation subtile s’insinue : celle de penser que les problèmes sont trop grands et nous trop petits, de telle sorte que nos choix ne changent rien. C’est une forme élégante de capitulation, souvent déguisée en réalisme. Certes, tout le monde n’a pas le même pouvoir d’action sur la réalité : il y a ceux qui gouvernent, ceux qui décident des investissements, ceux qui dirigent les institutions, ceux qui font de la recherche, ceux qui éduquent, ceux qui informent, ceux qui produisent ; et il y a ceux qui semblent n’avoir que leur vie quotidienne. Pourtant, personne n’est sans responsabilité. Chacun dispose d’un propre champ d’action, et c’est là – et nulle part ailleurs – qu’il est appelé à choisir entre alimenter la logique de la force (ne serait-ce qu’avec indifférence, cynisme, mensonge, haine), ou conserver la logique de la paix (avec vérité, sobriété, proximité, attention).

LIRE l'encyclique

LIRE un écho de la présentation de l'encyclique par Vatican News

A LIRE, dans le quotidien La Croix :

Avec Magnifica humanitas, la première encyclique de Léon XIV présentée ce lundi 25 mai, le pape veut « désarmer l’intelligence artificielle », la soustraire à la logique de domination et rendre habitable le monde dans lequel elle nous plonge. Un texte fleuve de 245 paragraphes qui dit l’ambition réactualisée de 135?ans de doctrine sociale de l’Église.

Il y a dans ce texte un mot qui s’accroche. Au paragraphe 110, au cœur du chapitre sur la technique, Léon XIV écrit que « l’intelligence artificielle (IA) est déjà un environnement dans lequel nous sommes immergés et un pouvoir avec lequel nous devons composer » et que, pour cette raison, « il ne suffit pas de la réglementer : elle doit être désarmée et rendue accessible ». Le mot, précise-t-il, lui « tient à cœur ». Il revient comme un  leitmotiv : désarmer les mots, la course aux algorithmes, les arsenaux militaires. « Désarmer » est l’un des mots de ce pontificat.

A VOIR, sur KTO, la présentation de l'encyclique :