"Magnifica humanitas", la première encyclique du pape Léon XIV est sous-titrée « sur la protection de la personne humaine à l’ère de l’intelligence artificielle ». Son auteur prend soin – comme c’est l’usage – de délivrer dans les deux premiers mots de cet ouvrage le message clé qui l’habite : magnifique humanité ! Façon de rappeler la hiérarchie intangible entre ce qui est humain et ce qui ne l’est pas. L’IA ne doit donc jamais nous asservir mais toujours nous servir.
De formation initiale scientifique, le pape Léon XIV n’est pas technophobe : il pose d’emblée que « la technique ne doit pas être considérée, en soi, comme une force antagoniste par rapport à la personne » (§ 4) et souligne que la technique est intrinsèquement liée à l’histoire de l’humanité dont elle a permis et accompagné les indéniables progrès.
Faire bon usage d’un pouvoir inédit : l'intelligence artificielle
Mais il nous appelle aussi à la lucidité en posant que, par essence, cette même technique n’est pas neutre. Il faut donc reconnaitre « la face ambiguë d’outils susceptibles de causer du tort lorsqu’ils ne sont pas mis au service du bien ». (§ 4) Le pape reprend alors une formule de son prédécesseur qui observait dans Laudato si' (encyclique sur l’écologie) que dans le passé, « jamais l’humanité n’avait eu autant de pouvoir sur elle-même ».
Léon XIV cite alors le grand théologien du XXe siècle Romano Gardini, à la fois maître de Benoît XVI et inspirateur du pape François, qui écrivait peu après la seconde guerre mondiale : « L’homme moderne n’a pas reçu l’éducation nécessaire pour faire un bon usage de son pouvoir » (La fin des temps modernes. 1952). Pour Léon XIV, le développement exponentiel de l’IA est d’autant plus ambigu qu’il inaugure une époque nouvelle, faite de mutations d’autant plus incertaines et dangereuses qu’elles sont accélérées et semblent non-maitrisées tant elles évoluent vite.
La dignité humaine comme critère universel
Soulignant cette complexité, le pape répète inlassablement, au long des 244 paragraphes numérotés du texte le critère principal qui permet de distinguer ce qui est bon de ce qui ne l’est pas dans l’usage de la technologie : la dignité humaine. Ce mot dignité revient plus de cent fois. Successivement qualifiée de sublime, infinie, universelle et inaliénable, la dignité est posée comme la boussole par excellence. C’est ce critère qui fonde les droits universels de l’homme. Ils incluent le respect de toute vie humaine, de son tout commencement à sa fin, rappelle le pape Léon au paragraphe 55, en y faisant mention de l’avortement et de l’euthanasie.
Et comme l’être humain est fait pour la relation, la dignité est aussi au fondement de l’autre critère qui lui est souvent associé dans cette encyclique : le bien commun (celui de chacun et de tous), cité plus de 70 fois. La dignité propre à l’humanité commande ainsi les autres grands critères de la doctrine sociale de l’Eglise que le pape Léon XIV prend soin d’expliciter au chapitre 2, en insistant sur leur émergence et leur cohérence : destination universelle des biens, subsidiarité, solidarité et justice sociale. L’ouvrage commence ainsi comme un manuel de cette doctrine sociale dont il constitue un tout nouveau chapitre.
Les multiples risques de l’IA
L’IA peut être « une aide précieuse » (§ 100) écrit le pape, mais, puisqu’elle n’est pas moralement neutre, elle nécessite un « discernement moral et spirituel ». La conscience que « Le danger que l’humanité devienne victime de ses propres conquêtes » (§ 94) n’est pas nouvelle. Elle avait notamment été explicitée par Paul VI, précise Léon XIV.
En quoi l’IA risque-t-elle de contredire la dignité humaine et le bien commun ?
Au fil des chapitre, les risques s’amoncellent : enfermement sur soi dans une fausse relation aux dépens des échanges interpersonnels ; surconsommation de biens et d’énergie à la fabrication comme à l’utilisation ; nouvelles formes d’exclusion liées à la fracture numérique ; capacité accrue de manipuler l’information, violer la vie privée, renforcer des idéologies et accroitre les polarisations ; absolutisation d’une prétendue intelligence coupée des autres précieuses facultés humaines ; refus des limites propres à l’humanité ; complexe de l’humanité vis-à-vis de la machine et fantasme de l’hybridation homme-machine (transhumanisme et posthumanisme) ;
contrôle des masses par quelques-uns avides de richesses hors de tout processus démocratique et à l’insu des Etats ; affaiblissement du politique ; hyperstimulation et dépendance des individus, notamment chez les jeunes en construction ; conditionnements économiques liberticides ; remplacement ou chosification de travailleurs traités en moyens, non comme des fins ; concentration d’une finance obsédée par le profit au détriment de l’humain ; systèmes de contrôle social à relents totalitaires ; emprise croissante et insidieuse sur les esprits ; nouveaux esclavages, sur ceux qui extraient les matières premières nécessaires aux outils technologiques et les fabriquent ; nouvelles formes de colonisation au dépens des plus pauvres ; aggravation et accélération des guerres.
Alertes contre l’esclavage et contre la guerre
Léon XIV développe longuement ses réflexions sur ces deux maux : l’esclavage et la guerre.
En ce qui concerne « les nouvelles formes d’esclavage », développés au chapitre 4, il reconnait que l’Eglise a mis beaucoup trop de temps (il en demande pardon) pour condamner l’esclavage de façon « formelle, absolue et universelle » (§176) au XIXe siècle, même si Rome est plusieurs fois intervenue au fil des siècles pour en réglementer et adoucir les modalités.
Raison de plus pour dénoncer la façon dont sont recrutés et aliénés aujourd’hui nombre de ceux qui extraient les matières premières pour la fabrication des infrastructures numériques : « le souvenir de la complicité et de l’aveuglement d’hier, face à l’injustice de l’esclavage, devient pour nous un appel à la vigilance. » (§ 177) Pas plus que les entreprises impliquées, l’utilisateur du numérique ne peut se laver les mains d’un tel drame, qui est aussi un scandale.
La question de la guerre occupe presque la totalité du cinquième et dernier chapitre. Le pape voit dans l’utilisation de l’IA un risque de déclenchement de plus en plus automatique de conflits de plus en plus inhumains, dont les victimes collatérales sont traitées en objets au prix de l’irresponsabilité des décideurs. Le pape dénonce à ce propos un « faux pragmatisme » (§ 204) qui laisse croire que les guerres sont inéluctables.
Cette opinion relève en réalité d’une « grand cécité culturelle et spirituelle » et d’un oubli des « horreurs de la guerre » (§ 191).Le pape reprend alors à son compte la « civilisation de l’amour » qu’appelait de ses vœux Paul VI. Il appelle à renouveler le multilatéralisme (coopération entre Etats) au service de la paix.
Pour chacun des domaines abordés, « l’enjeu du pouvoir » est clé. Et de citer encore son prédécesseur : « Nous ne pouvons pas ignorer que l’énergie nucléaire, la biotechnologie, l’informatique, la connaissance de notre propre ADN et d’autres capacités que nous avons acquises […] donnent à ceux qui ont la connaissance, et surtout le pouvoir économique d’en faire usage, une emprise impressionnante sur l’ensemble de l’humanité et sur le monde entier ». (§ 5 et Laudato si').
Pour un monde « plus humain », attaché à la vérité
Ce panorama des risques atteste que le « progrès matériel » peut se traduire par une « régression anthropologique » (§ 5) dès lors que la dignité humaine n’est pas le critère prioritaire. Or, c’est la responsabilité de chacun de bâtir avec d’autres un monde « plus humain ».
Car « En fin de compte, la question décisive reste celle posée par saint Jean-Paul II : l’IA rend-elle « la vie humaine sur la terre “plus humaine” à tout point de vue ? » (§ 139) Pour Léon XIV, le « grand chantier de notre époque » doit s’inspirer, non pas de celui de la tour de Babel, « où l’œuvre commune est guidée par un projet de domination qui finit par déshumaniser » mais à celui de la reconstruction de Jérusalem, relatée par le prophète Jérémie : « pierre par pierre, comme une œuvre de responsabilité partagée. » (§ 90) L’humilité déjoue la toute-puissance.
A chaque risque – ou constat négatif – le pape propose des solutions, du moins des pistes, tout en soulignant que, tout étant lié, « le premier devoir qui nous incombe est de ne pas diaboliser ni idolâtrer les outils, mais de les maîtriser ». (§ 137) Et pour cela, il faut partir « d’un point d’ancrage : la vérité est un bien commun, et non la propriété de ceux qui détiennent le pouvoir ou la visibilité. »
Pour cela, le pape appelle à « promouvoir une écologie de la communication » (§ 137) mobilisant l’Etat, les corps intermédiaires, les journalistes, les familles, l’école et l’université. Occasion pour le pape – une seconde fois – de reconnaitre les failles de l’Eglise dans son approche de la vérité sur les abus. Les chrétiens ne sont pas en reste lorsqu’il faut rechercher la vérité.
Face à ce nouveau continent, ne pas capituler
Que faire ? Au fil de l’encyclique – et surtout dans sa conclusion – sont distillés des suggestions concrètes. Le pape précise que personne ne peut se dire « non concerné », car « une tentation subtile s’insinue : celle de penser que les problèmes sont trop grands et nous trop petits, de telle sorte que nos choix ne changent rien. C’est une forme élégante de capitulation, souvent déguisée en réalisme. » (§ 212)
Pour tous « il est important de garder un cœur qui aime la vérité et désire ce qui est juste plutôt que les contenus les plus attrayants, un cœur qui recherche la sagesse plutôt que les effets immédiats. » (§ 237)
Sans prétendre décliner le panorama de recommandations, notons l’invitation au désarmement des mots (§ 214) qui concerne chaque être doué de la parole, au dialogue et à « la culture de la négociation » (§ 221), à redonner à la responsabilité des Etats et des organisations internationales une place éminente, à savoir jeûner d’IA (§ 140) pour privilégier la rencontre physique (§ 139), à ne pas se contenter de la vision étroite d’un produit en évaluant sa pertinence, non pas selon sa seule efficacité, mais en fonction de la totalité de ses coût humains et écologiques.
Agir en « sage architecte » du monde à venir avec Magnifica humanitas
La conclusion de l’encyclique comporte trois exhortations qui méritent d’être largement citées :
« Investissons dans l’éducation, qui commence par nous-mêmes ! Nous avons tous besoin de nous former à vivre le numérique de manière humaine, comme partie intégrante de l’éducation à la foi et à bien vivre de l’Évangile. Nous devons nous former à considérer le monde numérique comme un nouveau continent à évangéliser, qui a besoin de missionnaires généreux et mûrs dans la foi. » (§ 238)
« Prenons soin de nos relations ! À une époque qui tend à tout accélérer et à tout fragmenter, la chair humaine continue de demander à être soignée et reconnue par des mains capables de tendresse, par des esprits attentifs et par de bonnes paroles. La culture numérique multiplie les connexions et offre de nouvelles possibilités de rencontre ; pourtant, le cœur humain conserve un besoin irremplaçable de proximité. » (§ 239)
« Aimons la justice et la paix ! Les mêmes technologies qui facilitent la communication et l’accès aux ressources peuvent soutenir des modèles qui exploitent les plus vulnérables, alimentent de nouvelles formes d’esclavage et transforment les conflits en opportunités de profit. » (§ 240).
L’encyclique résonne comme un refus du laisser-aller au profit d’un discernement continu à l’échelle de chaque personne et de chaque collectivité. Le pape Léon XIV en appelle régulièrement au renouvellement de la sagesse comme guide pour l’action : « Le réalisme authentique ne renonce pas à changer le monde. Il commence par voir clairement les intérêts, les peurs, les entraves et les rapports de force, précisément pour évaluer ce qu’il est possible d’obtenir et par quelles étapes. » (§ 218)
Même si les ouvrages et études sur l’IA foisonnent– l’auteur de Magnifica humanitas le note d’emblée – une originalité notable de cette encyclique est qu’elle est publiée au moment même où l’explosion de l’IA impose un débat. Le pape écrit sans attendre – comme ce fut le cas en d’autres occasions – que les conséquences d’un nouveau fait de société déjà profondément installé appellent une prise de position papale. Rerum novarum, de Léon XIII fut publiée près d’un siècle après le début de la révolution industrielle !
Le pape actuel nous aide donc à anticiper. Les critères qu’il propose ne sont pas ceux d’un refus absolu, mais ceux du discernement éclairé d’un « sage architecte » (§ 236). Nous devons nous s’atteler à bâtir en conscience et ensemble, grâce à un usage raisonné de la technique, donc de l’IA, un monde aimable, pour le bien de tous et pour un meilleur avenir.