Les entreprises qui construisent les modèles d'intelligence artificielle les plus puissants du monde ont eu recours à des prêtres, des théologiens et des philosophes de différentes religions pour définir quel comportement est moralement correct dans leurs chatbots, selon a révélé un communiqué de l'agence Associated Press (AP) publié ce dimanche.
Anthropic, l'entreprise derrière le chatbot Claude, a confirmé dans un communiqué de mai qu'elle s'était réunie avec « des universitaires, des clercs, des philosophes et des spécialistes de l'éthique de plus de 15 groupes religieux et culturels », dans l'intention d'étendre cette consultation à l'avenir. Des représentants de Meta, Google et Amazon se sont également réunis au Vatican, et Microsoft maintient une approche active avec différentes traditions de foi.
« Ce ne sont pas des questions qu'un laboratoire peut répondre », a déclaré le cofondateur d'Anthropic Chris Olah au début de cette année, lors de la présentation au Vatican de la première encyclique du pape Léon XIV sur l'intelligence artificielle. « Ce sont des questions que des traditions comme la vôtre portent depuis des millénaires », a-t-il ajouté, s'adressant aux dirigeants religieux présents.
L'objectif de ces entreprises n'est pas d'aligner leurs modèles avec une seule foi, mais de construire une sorte de moyenne d'idées morales issues de différentes traditions. Le directeur général d'OpenAI, Sam Altman, l'a résumé l'année dernière : il a déclaré que son chatbot devrait refléter « cette moyenne pondérée, ou peu importe, de la vision morale de l'humanité ».
Quelles sont les critiques au plan des entreprises d'IA
Cette idée heurte une objection fondamentale soulevée par des universitaires spécialisés dans l'étude des religions. Webb Keane, anthropologue à l'Université du Michigan, soutient que la religion ne peut être réduite à un ensemble de principes extractibles et comparables entre eux.
« Il y a une manière très conventionnelle de penser la religion comme un livre de règles », a expliqué Keane. Cela, a-t-il dit, est fortement lié à la religion scripturaire, et ces religions finissent par être, au final, les religions abrahamiques : le judaïsme, le christianisme et l'islam.
Cette définition laisse de côté des traditions qui ne s'organisent pas de la même manière. Selon Keane, si une entreprise suppose que les religions partagent un ensemble de principes moraux extractibles, elle risque de privilégier certaines traditions et de déformer d'autres, surtout celles qui ne se conçoivent pas elles-mêmes comme des systèmes éthiques.
Un échange que certains universitaires valorisent
Tous les participants à ces réunions ne les critiquent pas. Meghan Sullivan, philosophe de la religion qui dirige une initiative sur l'éthique et l'intelligence artificielle à l'Université de Notre Dame, a assisté cette année à une rencontre d'Anthropic avec des chrétiens de différentes dénominations.
Sullivan a déclaré que, contrairement à d'autres entreprises avec lesquelles il avait dialogué, le niveau d'implication d'Anthropic l'avait impressionné. « La culture au sein de l'entreprise ressemble à celle d'un bon campus universitaire, avec des gens très curieux intellectuellement », a-t-il raconté.
La réunion s'est déroulée en deux temps : d'abord, la société a expliqué ses modèles « en termes simples », puis les dirigeants religieux ont répondu par des questions allant de savoir si les humains ont une âme à savoir si un enfant de huit ans devrait pouvoir utiliser un chatbot pour apprendre à lire.
Anthropic a expliqué dans son communiqué de mai que le travail ne cherche pas à aligner ses modèles sur la vision du monde d'une seule tradition. « Nous voulons que Claude recoure à une large gamme de points de vue, religieux, laïcs et politiques, avec la même profondeur et le même rigueur », a indiqué l'entreprise, ajoutant qu'elle cherche « une pensée accumulée et soignée sur la façon dont se forme réellement un bon caractère ».
Quel est le risque de mélanger des traditions distinctes
Paolo Carozza, membre du Conseil de surveillance indépendant de Meta et spécialiste de la pensée sociale catholique et de la technologie, a averti que cette volonté d'accumulation peut finir par effacer ce qui distingue chaque tradition.
« Toute tradition vivante et sophistiquée peut interagir avec d'autres de manière organique et absorber de nouvelles connaissances au fil du temps. Mais elle le fait de manière organique », a déclaré Carozza. « Ce que l'intelligence artificielle fait souvent, c'est prendre tout cela, le mélanger et, au final, ne rien lui donner de sens », a-t-il ajouté.
Les modèles de langage fonctionnent en prédisant le mot suivant à partir de motifs appris à partir d'une énorme quantité de textes écrits par des humains, parmi lesquels des textes religieux de différentes époques et cultures.
Des spécialistes comme l'étudiante en religions Tomoko Masuzawa rappellent que l'idée de comparer les religions comme des systèmes équivalents entre eux est, en réalité, une construction académique occidentale consolidée seulement au XIXe siècle, ce qui rend plus complexe leur résumé en règles universelles pour entraîner une machine.