La chercheuse Sherry Turkle, professeure au Massachusetts Institute of Technology (MIT), avertit que la dépendance émotionnelle envers les chatbots met en danger l'humanité de ceux qui les utilisent comme substituts aux relations personnelles.
Dans une interview accordée au magazine Wired, l'universitaire a présenté les arguments centraux de son nouveau livre, « Artificial Intimacy: Who We Become When We Talk to Machines », dans lequel elle décrit un état d'urgence provoqué par l'usage croissant de machines qui simulent être des tuteurs, des amis ou des partenaires.
Cet avertissement émane d'une spécialiste qui étudie depuis quatre décennies la relation entre les humains et les ordinateurs, reconnue pour son approche académique et sa distance par rapport aux postures alarmistes. Turkle souhaite que son œuvre ait le même impact que des livres considérés comme pionniers dans l'alerte sur les crises sociales, tels que Silent Spring, The Jungle ou Unsafe at Any Speed, des titres qui, à leur époque, ont réussi à mobiliser l'opinion publique face à des risques peu visibles.
Une recherche qui a changé de cap pendant la pandémie
Turkle a expliqué que son nouveau livre est né d'une curiosité similaire à celle de ses travaux précédents, mais que le processus a pris une tournure différente après les premières interviews réalisées pendant la pandémie. Selon son récit, plusieurs personnes dont les familles traversaient des difficultés ont affirmé que leur seul désir était de passer du temps avec leur chatbot.
« Les gens ne veulent pas s'engager en politique, ils veulent seulement vivre dans le monde des chatbots », a déclaré la chercheuse, qui a décrit cette découverte comme le point de départ de la thèse centrale de son ouvrage : la réalité a besoin de la participation active des personnes, et l'abandonner représente un risque accru dans le contexte actuel.
Les réseaux sociaux, antécédent de la dépendance actuelle
Pour Turkle, le phénomène actuel a un antécédent direct dans l'usage des réseaux sociaux. Selon ses explications, ces plateformes ont habitué les utilisateurs à chercher un soulagement émotionnel en ouvrant un écran face à tout malaise. Plus tard, a-t-elle soutenu, cette habitude a abouti à un environnement numérique entourant les personnes uniquement d'opinions conformes aux leurs.
La différence avec les chatbots actuels réside dans le fait que ces systèmes peuvent interagir à la première personne, une caractéristique que Turkle considère particulièrement risquée. La chercheuse a même proposé lors de l'interview que l'utilisation de ce type de langage par ces outils devrait être interdite, estimant qu'il renforce une illusion de lien émotionnel authentique.
Le risque de remplacer la psychothérapie par des conversations automatisées
Turkle a exprimé des préoccupations concernant l'utilisation des chatbots comme alternative aux soins psychologiques professionnels. Selon ses détails, de nombreuses personnes affirment recourir à ces outils pour s'entraîner à des conversations difficiles, comme parler avec un patron, un partenaire ou un professeur. Le problème, a-t-elle mis en garde, survient lorsque cette pratique devient une habitude quotidienne et finit par remplacer le lien humain qu'elle cherchait initialement à renforcer.
L'experte a également remis en question le concept de « humain dans la boucle », utilisé dans les environnements professionnels pour décrire la supervision humaine sur les processus automatisés.
Pour Turkle, cette fonction se limite souvent à corriger les erreurs évidentes de l'intelligence artificielle, sans capacité réelle de modifier les décisions. « Ces personnes ne peuvent rien changer », a-t-elle affirmé, ajoutant que ce mécanisme fonctionne, en partie, pour transmettre un faux sentiment de contrôle humain sur des processus déjà délégués à des systèmes automatisés.
Une technologie qui ne remplace pas le lien humain
Face à ceux qui soutiennent que les chatbots représentent une nouvelle forme d'interaction et non nécessairement une pire, Turkle a été catégorique dans l'entretien avec le média cité : « Une IA ne remplacera jamais la conversation humaine ». Selon son explication, ces systèmes n'éprouvent pas de peur de la mort, ne ressentent ni douleur ni affection pour les autres personnes, ce qui en fait des outils incapables de soutenir des liens émotionnels équivalents à ceux des humains.
La chercheuse a lié ce phénomène à la crise de solitude que traversent diverses sociétés. « S'il y a une crise de solitude, c'est parce que nous nous abandonnons les uns les autres », a-t-elle affirmé, tout en proposant d'orienter les ressources technologiques vers l'accompagnement des personnes âgées, plutôt que d'élargir le développement de centres de données dédiés exclusivement à l'intelligence artificielle conversationnelle.
La docteure Melissa Perry, doyenne de la Faculté de santé publique de l'Université George Mason, a partagé les préoccupations exprimées par Turkle et a expliqué que les personnes ont besoin d'interactions en face à face pour établir des liens authentiques. Selon ses détails, les êtres humains ont évolué pour se sentir bien en écoutant le ton de la voix, en observant les expressions faciales et en lisant le langage corporel d'une autre personne, éléments qu'un chatbot ne peut offrir malgré sa simulation d'attention et de validation émotionnelle.
Les positions de Turkle et Perry coïncident sur un point fondamental : la communication avec une machine peut simuler la proximité, mais elle manque des risques et des signaux physiques qui soutiennent un lien humain réel. Cette absence, loin d'être un détail technique, pourrait expliquer pourquoi une interaction apparemment satisfaisante avec un chatbot ne parvient pas à remplacer le contact avec une autre personne.