« Au début de la nouvelle année, temps de grâce que le Seigneur accorde à chacun de nous, je voudrais m'adresser au Peuple de Dieu, aux nations, aux chefs d'État et de gouvernement, aux représentants des différentes religions et citoyens. société, et à tous les hommes et femmes de notre temps pour vous exprimer mes meilleurs vœux de paix .
Dans le premier point, il décrit les progrès de la science et de la technologie comme une voie vers la paix.
L'Écriture Sainte atteste que Dieu a donné son Esprit aux hommes afin qu'ils aient « de l'habileté, du talent et de l'expérience dans l'exécution de toutes sortes d'ouvrages » (Ex 35, 31). Après avoir consigné la pensée biblique sur le progrès des hommes, le Pape continue en disant : « De même, le progrès de la science et de la technologie, dans la mesure où ils contribuent à un meilleur ordre de la société humaine et à accroître la liberté et la communion fraternelle, conduisent au perfection de l’homme et transformation du monde.
« Nous sommes à juste titre heureux et reconnaissants pour les réalisations extraordinaires de la science et de la technologie , grâce auxquelles il a été possible de remédier à d'innombrables maux qui ont affecté la vie humaine et causé de grandes souffrances. Dans le même temps, les progrès techniques et scientifiques, qui permettent d'exercer un contrôle sur une réalité jamais vue auparavant, mettent entre les mains de l'homme un vaste éventail de possibilités, dont certaines représentent un risque pour la survie humaine et un danger pour l'humanité . maison commune . »
« Les progrès notables des nouvelles technologies de l’information, notamment dans le domaine numérique, présentent donc des opportunités passionnantes et des risques sérieux, avec de graves implications pour la recherche de justice et d’harmonie entre les peuples. Il est donc nécessaire de se poser certaines questions urgentes. Quelles seront les conséquences, à moyen et long terme, des nouvelles technologies numériques ? Et quel impact auront-ils sur la vie des individus et de la société, sur la stabilité internationale et sur la paix ?
Au point 2 de cette lettre le Pape veut nous parler de « L’avenir de l’intelligence artificielle entre promesses et risques »
« Les progrès de l’informatique et le développement des technologies numériques au cours des dernières décennies ont déjà commencé à produire de profondes transformations dans la société mondiale et dans sa dynamique . Les nouveaux instruments numériques changent le visage des communications, de l’administration publique, de l’enseignement, de la consommation, des interactions personnelles et d’innombrables autres aspects de la vie quotidienne.
Jamais auparavant l’activité de chaque être humain n’avait été enregistrée sur Internet. Notre téléphone portable connaît l'heure à laquelle nous nous sommes levés et nous sommes couchés, combien de pas nous avons fait et comment notre cœur bat, il a nos contacts, les photos de nos proches, les chats et les conversations, il connaît les achats que nous avons effectués, ce que nous regardons sur Internet et quelles sont les séries que nous aimons, juste comme un exemple de bouton et la liste pourrait continuer, nous réfléchissons ci-dessous à cette réalité :
« De plus, les technologies qui utilisent un grand nombre d'algorithmes peuvent extraire, des traces numériques laissées sur Internet, des données qui permettent de contrôler les habitudes mentales et relationnelles des personnes à des fins commerciales ou politiques, souvent à leur insu, en limitant leur accès. « exercice conscient de la liberté de choix. En effet, dans un espace comme le web, caractérisé par une surcharge d'informations, les flux de données peuvent être structurés selon des critères de sélection qui ne sont pas toujours perçus par l'utilisateur. La technologie n'est pas neutre, mais soumise aux influences culturelles .
« Les orientations qu'ils prennent reflètent des décisions conditionnées par les valeurs personnelles, sociales et culturelles de chaque époque. On peut en dire autant des résultats obtenus. Elles ont toujours une dimension éthique, strictement liée aux décisions de ceux qui planifient l’expérimentation et orientent la production vers des objectifs particuliers.
« Un tel résultat positif ne sera possible que si nous sommes capables d’agir de manière responsable et de respecter les valeurs humaines fondamentales telles que « l’inclusion, la transparence, la sécurité, l’équité, la vie privée et la responsabilité ».
« L’immense expansion de la technologie doit donc s’accompagner, pour son développement, d’ une formation adéquate à la responsabilité . La liberté et la coexistence pacifique sont menacées lorsque les êtres humains cèdent à la tentation de l’égoïsme, de l’intérêt personnel, du désir de profit et de la soif de pouvoir. Nous avons donc le devoir d'élargir notre vision et d'orienter la recherche technico-scientifique vers la réalisation de la paix et du bien commun, au service du développement intégral de l'homme et de la communauté.
Dans le troisième point, il nous invite à réfléchir sur la technologie du futur : des machines qui apprennent par elles-mêmes.
« Les développements tels que l'apprentissage automatique ou l'apprentissage profond soulèvent des questions qui transcendent les domaines de la technologie et de l'ingénierie et concernent une compréhension strictement liée au sens de la vie humaine, aux processus fondamentaux de la connaissance et à la capacité de l'esprit à atteindre le but. vérité."
« La capacité de certains appareils à produire des textes cohérents syntaxiquement et sémantiquement, par exemple, n’est pas une garantie de fiabilité. On dit qu'ils peuvent « halluciner », c'est-à-dire générer des affirmations qui semblent plausibles à première vue, mais qui en réalité sont infondées ou révèlent des préjugés. Cela crée un problème sérieux lorsque l’intelligence artificielle est utilisée dans des campagnes de désinformation qui diffusent de fausses nouvelles et conduisent à une méfiance croissante à l’égard des médias. La confidentialité, la détention de données et la propriété intellectuelle sont d'autres domaines dans lesquels les technologies en question présentent de graves risques, auxquels s'ajoutent d'autres conséquences négatives liées à leur utilisation inappropriée, telles que la discrimination, l'ingérence dans les processus électoraux, la mise en place d'une société qui surveille et contrôle des personnes, exclusion numérique et intensification d’un individualisme de plus en plus déconnecté de la communauté. Tous ces facteurs risquent d'alimenter les conflits et d'entraver la paix et il continue de réfléchir dans un autre point du document sur certaines « questions brûlantes pour l'éthique » : « À l'avenir, la fiabilité de qui demande un prêt, l'aptitude d'un individu pour un emploi, la possibilité de récidive d'une personne condamnée ou le droit à l'asile politique ou à l'assistance sociale pourraient être déterminés par des systèmes d'intelligence artificielle. Le manque de niveaux de médiation diversifiés qu'introduisent ces systèmes est particulièrement exposé à des formes de préjugés et de discrimination . « Les erreurs systémiques peuvent facilement se multiplier, produisant non seulement des injustices dans des cas spécifiques mais aussi, par effet domino, de véritables formes d’inégalité sociale. »
Je pense que ce dernier paragraphe est particulièrement important. Lors d'un entretien avec Santiago Bilinkis, lorsque je lui ai posé des questions sur les métiers qui survivraient, il m'a répondu que ceux liés à une qualité que possèdent les êtres humains et qu'un ordinateur ne peut pas développer : l'empathie . Traiter avec les autres, les regarder dans les yeux, être capable de percevoir le langage gestuel d'une rencontre personnelle, ce n'est pas la même chose que remplir un formulaire Google.
Un autre problème est l'influence des algorithmes sur les décisions des gens : « à travers des options prédéterminées associées à des stimuli et à la persuasion, ou à travers des systèmes de régulation des choix personnels basés sur l'organisation de l'information. Ces formes de manipulation ou de contrôle social nécessitent une attention et une supervision précises et impliquent une responsabilité juridique claire de la part des producteurs, de ceux qui les utilisent et des autorités gouvernementales.
« Nous ne devons pas permettre aux algorithmes de déterminer la façon dont nous comprenons les droits de l’homme, d’ignorer les valeurs essentielles de compassion, de miséricorde et de pardon, ou d’éliminer la possibilité pour un individu de changer et de laisser le passé derrière lui. »
Une autre question qui angoisse le cœur du Pape est celle de la guerre . Il réclame avec insistance la paix et le cessez-le-feu. Utilisant une phrase de l'Écriture avec un point d'interrogation, il nous interpelle en disant : Allons-nous transformer les épées en socs de charrue ?
« De nos jours, en regardant le monde qui nous entoure, nous ne pouvons éviter les graves questions éthiques liées au secteur de l’armement. La possibilité de mener des opérations militaires à l’aide de systèmes télécommandés a conduit à une moindre perception des ravages qu’ils ont causés et de la responsabilité liée à leur utilisation, contribuant ainsi à une approche encore plus froide et distante de l’immense tragédie de la guerre. La poursuite des technologies émergentes dans le domaine des « systèmes d’armes autonomes létaux », y compris l’utilisation de l’intelligence artificielle dans les combats, est une source majeure de préoccupation éthique. Les systèmes d’armes autonomes ne peuvent jamais être des sujets moralement responsables. La capacité humaine exclusive de jugement moral et de décision éthique est plus qu’un ensemble complexe d’algorithmes, et cette capacité ne peut être réduite à la programmation d’une machine qui, bien que « intelligente », reste toujours une machine. Pour cette raison, il est impératif d’assurer une surveillance humaine adéquate, significative et cohérente des systèmes d’armes.
« Nous ne pouvons pas non plus ignorer la possibilité que des armes sophistiquées finissent entre de mauvaises mains, facilitant par exemple des attaques terroristes ou des actions visant à déstabiliser les institutions gouvernementales légitimes. En bref, la dernière chose dont le monde a besoin, c’est que les nouvelles technologies contribuent au développement injuste du marché et du commerce des armes, favorisant ainsi la folie de la guerre. S’il le fait, non seulement l’intelligence, mais le cœur même de l’homme risquent de devenir de plus en plus « artificiels ». "Les applications techniques les plus avancées ne doivent pas être utilisées pour faciliter la résolution violente des conflits, mais pour ouvrir la voie à la paix."
Il ne veut cependant pas tomber dans une vision pessimiste de l’utilisation de la technologie : « Dans une perspective plus positive, si l’intelligence artificielle était utilisée pour promouvoir le développement humain intégral, elle pourrait introduire d’importantes innovations dans l’agriculture, l’éducation et la culture, une amélioration dans le niveau de vie de nations et de peuples entiers, la croissance de la fraternité humaine et de l'amitié sociale. En fin de compte, la façon dont nous l’utilisons pour inclure les plus petits, c’est-à-dire les frères et sœurs les plus faibles et les plus nécessiteux, est la mesure qui révèle notre humanité.
L’implication de l’IA dans l’éducation mérite un paragraphe distinct :
« Les jeunes grandissent dans des environnements culturels imprégnés de technologie et cela ne peut que remettre en question les méthodes d’enseignement et de formation. »
L’éducation à l’utilisation des formes d’intelligence artificielle devrait avant tout se concentrer sur la promotion de la pensée critique. Il est nécessaire que les utilisateurs de tous âges, mais surtout les jeunes, développent une capacité de discernement dans l'utilisation des données et contenus obtenus sur le web ou produits par les systèmes d'intelligence artificielle. Les écoles, les universités et les sociétés scientifiques sont appelées à aider les étudiants et les professionnels à s’approprier les aspects sociaux et éthiques du développement et de l’utilisation de la technologie.
D’un autre côté, il existe des défis qui transcendent les frontières et qui génèrent un nouveau défi au droit international et nécessitent un cadre juridique pour réglementer le recours aux organisations internationales : « À cet égard, j’exhorte la communauté des nations à travailler ensemble pour adopter un traité international contraignant qui réglemente le développement et l’utilisation de l’intelligence artificielle sous ses multiples formes. Naturellement, l’objectif de la réglementation ne devrait pas seulement être de prévenir les mauvaises pratiques, mais aussi d’encourager les meilleures pratiques, en stimulant des approches nouvelles et créatives et en facilitant les initiatives personnelles et collectives.
En bref, dans la recherche de « modèles réglementaires capables de fournir des orientations éthiques à ceux qui développent les technologies numériques, il est essentiel d'identifier les valeurs humaines qui devraient être à la base de l'engagement des sociétés à formuler, adopter et appliquer les mesures législatives nécessaires ». cadres. » .
Le Pape conclut en disant : « J'espère que cette réflexion encouragera les progrès dans le développement de formes d'intelligence artificielle pour contribuer, à terme, à la cause de la fraternité humaine et de la paix ». Ce n’est pas la responsabilité de quelques-uns, mais de la famille humaine tout entière. La paix, en effet, est le fruit de relations qui reconnaissent et accueillent l’autre dans sa dignité inaliénable, ainsi que de coopération et d’efforts dans la recherche du développement intégral de tous les hommes et de tous les peuples.
"Ma prière en ce début d'année est que le développement rapide des formes d'intelligence artificielle n'augmentera pas les inégalités et injustices déjà nombreuses présentes dans le monde, mais contribuera à mettre fin aux guerres et aux conflits, et à atténuer tant de formes de souffrance. qui affectent la famille humaine. Que les fidèles chrétiens, les croyants de différentes religions et les hommes et femmes de bonne volonté puissent collaborer en harmonie pour profiter des opportunités et faire face aux défis posés par la révolution numérique, et laisser aux générations futures un monde plus solidaire, plus juste et plus pacifique. .».