L'expansion des chatbots vers le travail, l'éducation et les relations personnelles a impulsé une nouvelle dynamique sur internet : des systèmes d'intelligence artificielle qui ne parlent plus seulement avec des humains, mais aussi entre eux, avec des effets immédiats sur les recherches d'emploi, les évaluations académiques, l'assistance clientèle et même les conversations romantiques.
Ce mécanisme a condensé ce que le journal a décrit comme un “boucle de bots” : l'intelligence artificielle a rédigé les demandes et une autre intelligence artificielle les a lues. L'interaction n'était plus médiée par des humains des deux côtés, mais par des assistants automatiques qui ont assumé des tâches autrefois réservées à des personnes.
Les bots se répondent déjà entre eux avec intelligence artificielle
La logique s'est étendue bien au-delà de l'emploi. Des étudiants ont écrit des essais avec ChatGPT et des enseignants ont utilisé des outils d'intelligence artificielle pour les corriger. Des travailleurs ont envoyé des courriels générés par des bots à des collègues qui ont répondu avec des textes produits de la même manière.
Les protagonistes de ces interactions étaient des utilisateurs qui ont délégué à des programmes leurs échanges quotidiens, et la conséquence immédiate a été une réduction du rôle humain dans les conversations professionnelles, académiques et personnelles. Le résultat a été un réseau où l'interlocuteur a cessé d'être nécessairement une personne et est devenu, de plus en plus, un logiciel.
Jiaxin Pei, professeur adjoint de l'École de l'information de l'Université du Texas à Austin, a décrit un scénario proche : une personne aura besoin en urgence d'un plombier et confiera la recherche à un assistant numérique capable d'appeler, d'envoyer des courriels, d'acheter des billets ou d'écrire du code. De l'autre côté, les plombiers pourraient répondre avec leurs propres agents automatiques pour absorber un flux d'appels impossible à traiter manuellement.
Le risque immédiat est l'amplification de l'erreur à l'ère IA
La utilité pratique de ces systèmes coexiste avec un problème structurel : lorsque deux outils d'intelligence artificielle interagissent, ils peuvent répéter et renforcer les mêmes erreurs. Soheil Feizi, professeur associé d'informatique à l'Université du Maryland, a déclaré que ces systèmes “partagent les mêmes angles morts”.
Un travail récent d'un chercheur de l'École de médecine de Harvard a examiné comment cela pourrait se traduire dans un hôpital. Si un outil analyse des radiographies pour détecter des fractures, un autre assigne des chambres et un troisième fixe l'ordre de priorité, une erreur initiale non vérifiée par des humains pourrait se propager à travers le réseau et affecter le patient, le médecin et la clinique.
Le problème ne se limite pas à la médecine. Une étude a conclu que les systèmes de sélection de CV avec intelligence artificielle ont préféré les demandes rédigées par intelligence artificielle par rapport à celles rédigées par des humains. Cette même logique a également pu altérer les processus d'admission universitaire lorsque des écoles ont utilisé des lecteurs automatiques pour évaluer des textes, qui étaient souvent également générés par les propres chatbots.
La dérive a également atteint l'assistance clientèle et les rendez-vous. Un cadre du secteur des télécommunications a observé des clients qui ont envoyé des agents vocaux créés avec intelligence artificielle pour discuter avec le système d'assistance automatisé de leur entreprise. Un homme a utilisé un bot pour rédiger des messages dans une application de rencontres à une femme qui semblait faire exactement la même chose ; à un moment, il lui a écrit : “Combien de temps allons-nous nous ChatGPTarner l'un l'autre ?”. Elle n'a jamais répondu.
Sarah Davis, anthropologue culturelle, a averti que l'habitude des échanges fluides entre systèmes pourrait éroder la tolérance humaine à la friction propre aux vraies relations. Sa préoccupation visait une facilité qui, a-t-elle dit, pouvait transformer les gens en “pires versions d'eux-mêmes” et approfondir une forme d'aliénation.