Les philosophes disent que, pour penser la réalité de manière profonde, nous devons être attentifs à l'esprit de notre temps. Cette attention suppose que nous soyons observateurs de la réalité dans laquelle nous vivons, d'un point de vue sociologique, mais aussi politique, économique, psychologique, technique, juridique, intellectuel ou culturel. À partir de cette observation, nous pouvons sûrement mieux comprendre le monde qui nous entoure, mais pas seulement le comprendre, mais penser comment nous pouvons agir depuis la tranchée de chacun pour générer petits changements qui nous aident à l'améliorer. Sans conscience de ce qui se passe, il sera difficile d'être de véritables agents de changement.
Dans ce sens, l'encyclique Magnifica Humanitas du pape Léon XIV est un référent qui reflète l'esprit de notre temps. C'est une lecture de la réalité que nous avons à vivre et qui comprend de manière très pertinente les défis de notre époque. Mais ce n'est pas seulement un reflet des problèmes de notre temps. C'est aussi un appel aux acteurs mondiaux pour mieux comprendre des phénomènes tels que les nouvelles technologies, l'intelligence artificielle (IA), la marchandisation, le problème de la post-vérité et de la communication, ou même la guerre et, à travers cette conscience, adopter des cours d'action qui visent à mieux protéger l'humain. Et dans l'expression « acteurs mondiaux », nous sommes tous inclus. Ce ne sont pas seulement les gouvernements ou les entreprises transnationales, mais tous ceux qui participent à l'espace public et qui utilisent les nouvelles technologies.
Ainsi, comme plus d'un siècle avant, Léon XIII avait appelé à propos de la question sociale dans l'encyclique Rerum Novarum, aujourd'hui Léon XIV appelle à propos de la question technologique. Les esprits du temps entre les deux documents sont divers, mais ils partagent des éléments communs. Tous deux reflètent l'importance de donner de la centralité à la dignité humaine face à des défis qui portent atteinte à son développement. Mais, tout comme à la fin du XIXe siècle et jusqu'à récemment, la menace qui était recherchée à combattre concernait les traitements « inhumains » ou de barbarie dans les environnements sociaux, professionnels ou économiques, aujourd'hui le défi est encore plus profond. En plus de surmonter l'inhumanité, aujourd'hui le plus grand défi est de préserver ce qui nous rend humains face à des réalités « non-humaines » qui peuvent « nous déshumaniser ».
Les nouvelles technologies, en elles-mêmes, ne sont ni la solution à tous les problèmes de l'humanité, ni un mal en soi. Le principal problème que détecte l'encyclique est l'usage que nous en faisons, mais aussi les défis qu'elles impliquent pour notre compréhension de nous-mêmes en tant qu'humains et les conséquences qu'elles peuvent avoir pour la justice dans la vie de nous tous.
Léon XIV dit que tandis que certains disputent la domination et d'autres réfléchissent à leurs effets, la grande majorité d'entre nous vivons la vie en attendant, en espérant et en observant ce qui peut se passer avec celles-ci. Et cela parce qu'il y a un grand problème avec ces technologies, spécifiquement l'
IA : nous ne les comprenons pas. Nous ne voyons que les effets qu'elles peuvent avoir sur nos vies qui, bien que dans certains cas, peuvent aider à améliorer nos conditions, car elles facilitent la connexion, l'éducation ou le soin de la maison commune, peuvent également diviser, écarter et générer des injustices.
Prenons un exemple de cela dernier. Ces systèmes ont été utilisés pour « faciliter » le travail des gouvernements pour la distribution d'aides ou de programmes sociaux. La réponse que nous donnerait l'IA en ce qui concerne les destinataires de ces programmes est-elle la plus juste ? Pouvons-nous faire confiance aveuglément au résultat proposé par une technologie ? Philip Alston, ancien rapporteur de l'ONU pour la pauvreté extrême et les droits de l'homme dit que si nous ne sommes pas conscients des risques de l'IA dans ces contextes, nous entrerions comme des zombies dans une dystopie d'état de bien-être technologique. Un autre exemple : un système d'IA pourrait-il être le meilleur outil pour déterminer si une personne a un risque de récidive criminelle, compte tenu des données qu'il a sur elle, comme son origine ethnique, son lieu de naissance, sa race, etc. ?
Et ce ne sont là que quelques-uns des risques. Le pape souligne de manière très intéressante que les IA sont davantage « cultivées » que « construites ». Elles ne sont pas neutres, mais reflet des intérêts et des biais de leurs programmeurs. Elles les amplifient même. Les biais sont un phénomène humain, mais doivent être compris et combattus dans l'intérêt de la protection de la dignité. Le problème est qu'en un espace de peu de régulation et où les effets de l'utilisation de l'IA sont exponentiels, les biais potentiellement discriminatoires peuvent se multiplier. La lutte contre les biais devient encore plus compliquée. Leur multiplication peut également conduire à une culture du déchet, où de larges secteurs de la société peuvent être affectés. Ici, sans aucun doute, il y a un défi très important dans cette ère technologique, où la responsabilité humaine devient de plus en plus pertinente.
Mais les défis de l'IA se manifestent également dans l'utilisation personnelle que nous en faisons. L'encyclique Magnifica Humanitas le établit clairement. Nous devons faire attention à l'IA car elle promet une grande facilité pour trouver des résultats, avec une impression d'objectivité, et simulant la communication humaine. Pensons à n'importe quel usage que nous faisons des systèmes d'IA générative. L'immédiateté avec laquelle nous trouvons des réponses est impressionnante. De plus, nous lui accordons une grande crédibilité dans un environnement où nous discutons avec le système et où l'IA confirme même nos biais ou où elle peut prêter à la confusion qu'un système technologique donne des conseils à une personne qui pourrait la mettre en danger. Je pense qu'il est crucial d'accorder de l'attention à ces trois caractéristiques afin que, sur le plan personnel, nous puissions récupérer l'humain face au non-humain, représenté par la machine.
Si nous faisons trop confiance aux capacités des nouvelles technologies, ou à l'apparente « intelligence » de celles-ci pour résoudre des problèmes, nous pouvons oublier nos capacités véritablement humaines ou même les sous-estimer. Cela aussi est un défi pour la vérité dans notre société contemporaine. Si nous croyons tout ce qui est produit par l'IA, ou nous nous contentons des informations reçues par des canaux technologiques, le risque de tomber dans des totalitarismes peut croître, où quelques-uns contrôlent les données et l'information. C'est pourquoi je pense que nous pouvons nous demander : qu'est-ce qui restera de l'humain une fois que nous nous abandonnerons aux « charmes » de l'IA ? Comment pouvons-nous récupérer ce qui nous rend humains face aux tentations de l'immédiateté et du résultat rapide ? Pouvons-nous construire des sociétés justes en utilisant des outils technologiques ? À quoi devons-nous prêter attention dans nos relations avec les autres pour ne pas perdre de vue ce qui nous rend humains ?
C'est pourquoi le problème est que nous confondons, ou que nous pouvons confondre l'humain avec ce qui ne paraît être qu'apparence. Comme si une machine pouvait garantir mieux la distinction entre le bien et le mal. L'encyclique nous rappelle que les jugements moraux ne sont pas seulement une question de calcul, mais nécessitent conscience, responsabilité et reconnaissance de l'autre comme personne.
C'est pourquoi le plus grand défi de notre époque est de rester humain. De trouver ce qui est véritablement humain non seulement face aux traitements inhumains, mais aussi face aux réalités non-humaines qui transmettent le risque de déshumanisation. Magnifica Humanitas est donc une excellente lecture de l'esprit de notre temps, mais aussi un appel à lutter pour l'humanisation de nos actes, à travers le dialogue et la recherche du bien commun.