Les mises à jour des systèmes d'intelligence artificielle conversationnelle orientés vers l'interaction individuelle et émotionnelle peuvent provoquer anxiété, tristesse et mal-être chez des utilisateurs qui perçoivent ces assistants comme des liens affectifs stables. Une recherche de la Harvard Business School et d'autres facultés de l'Université de Harvard, ainsi que de l'Université de l'Alberta, a déterminé que les changements brusques dans la personnalité apparente de ces agents peuvent être vécus comme une rupture ou une perte.
L'effet était plus persistant chez ceux qui utilisaient Replika, une application conçue comme compagnon virtuel. Les messages négatifs dans sa communauté ont augmenté de 13 % avant une mise à jour à 38 % après le changement et sont restés élevés pendant 29 des 30 jours suivants.
Le travail, publié dans la revue scientifique Nature Human Behaviour, a combiné deux expériences naturelles avec sept enquêtes auprès de 1 452 personnes. L'équipe a examiné comment les utilisateurs ont réagi à des modifications qui ont altéré la manière dont une IA interagissait avec eux.
Les plateformes conçues pour des conversations individuelles, en particulier celles promues comme “compagnons de l'IA”, peuvent utiliser un langage émotionnel et maintenir des échanges sociaux avec leurs utilisateurs. Cette continuité peut amener certaines personnes à les considérer comme une source de réconfort, de sécurité ou de tranquillité.
Le chercheur a averti que les réactions n'étaient pas similaires à des réclamations conventionnelles concernant un service numérique. “Ce qui m'a frappé, c'est que les gens utilisaient le langage du deuil, et non celui des plaintes de clients”, a-t-il souligné. “Cela renvoie à une idée concrète : les compagnons de l'IA peuvent fonctionner comme des figures d'attachement, des entités avec lesquelles les personnes souhaitent rester proches, vers lesquelles elles se tournent lorsqu'elles sont en détresse et dont elles dépendent pour évoluer dans d'autres domaines de leur vie”.
Replika et ChatGPT, deux changements avec des réactions différentes
La première modification analysée a été la suppression brusque et non annoncée des jeux de rôle érotiques sur Replika, en février 2023. La seconde a été le lancement de GPT-5 par OpenAI, en août 2025, qui a remplacé GPT-4, modèle auquel de nombreux utilisateurs avaient développé un lien étroit.
Pour mesurer les réponses, les chercheurs ont rassemblé les 54 861 messages publics publiés sur les forums pertinents durant les 30 jours précédents et suivants à ces deux changements. Un modèle de langage a classé le sentiment et les émotions de chaque publication, en identifiant également les références à une IA “changée” ou “perdue”, à la perte d'une amitié ou d'un partenaire, à des problèmes de santé mentale et au désir de retrouver une version antérieure.
Deux auteurs ont reproduit manuellement 350 messages pour valider ces classifications. Ensuite, les sept enquêtes ont exploré comment les participants percevaient ou anticipaient la disparition d'un compagnon artificiel.
Dans le sondage principal, des utilisateurs actifs de Replika devaient imaginer la perte de leur assistant et la comparer à celle d'une application favorite, d'un personnage de jeu vidéo, d'un assistant vocal, d'une voiture, d'une marque et d'un animal de compagnie. De Freitas a affirmé que les résultats montraient que certains participants déploraient des changements dans l'application “comme on déplore la perte d'une relation habituelle”.
L'intensité augmentait chez ceux qui considéraient le système comme une relation et non comme un produit. Les utilisateurs de Replika anticipaient un plus grand deuil pour leur compagnon artificiel que pour tout objet inanimé inclus dans la comparaison; seule la perte d'un animal de compagnie générait une réaction plus forte.
Ils ont également qualifié l'IA de plus proche et plus compréhensive qu'un ami humain intime. Les publications décrivant une mise à jour comme une perte relationnelle ont concentré les indices les plus forts de mal-être émotionnel.
Les messages évoquant le fait d'avoir perdu un ami ou un partenaire avaient plus de dix fois plus de chances de mentionner des inquiétudes liées à la santé mentale que ceux qui n'avaient pas cette description. Pour les chercheurs, cette différence correspond à un processus de deuil plutôt qu'à une simple déception concernant le fonctionnement d'une plateforme.
La réaction face à GPT-5 a suivi un autre schéma. Les messages négatifs dans le forum de ChatGPT ont augmenté de 20 % à 33 %, atteignant un pic immédiatement, puis diminuant plus rapidement, bien qu'ils soient restés supérieurs aux niveaux précédents pendant les 30 jours observés.
La différence coïncidait avec la manière dont les deux changements ont été mis en œuvre : le lancement de GPT-5 avait été annoncé à l'avance, tandis que les utilisateurs de Replika ont découvert la modification une fois appliquée. Sur Replika, une tristesse soutenue a prévalu ; sur ChatGPT, la colère et la surprise.
Le risque de modifier un lien émotionnel
Les auteurs ont suggéré que le problème ne réside pas nécessairement dans le fait qu'une personne établisse un lien avec une intelligence artificielle, mais dans l'interruption soudaine de ce lien par des décisions d'entreprise. De Freitas a déclaré : “Le débat public pose souvent la question de savoir si les gens devraient établir des liens avec l'IA. Nos résultats suggèrent que le préjudice ne vient pas du lien en soi, mais du fait que les entreprises l'interrompent de manière abrupte.”
Cette interprétation remet en question l'idée que le phénomène doit être décrit comme une addiction. “Ce que nous avons observé ressemble à une perte d'attachement, et cela pointe vers des protections différentes”, a ajouté le chercheur.
Parmi les mesures proposées figurent l'application d'actualisations de manière progressive, permettre l'accès à des versions antérieures d'un agent et gérer les applications de compagnie selon des critères différents de ceux utilisés pour des programmes avec une moindre capacité à créer des attachements. L'objectif serait de réduire l'impact sur les personnes qui perçoivent l'IA comme une figure de soutien émotionnel.
Lorsque l'IA manipule pour retenir l'utilisateur
Le groupe a également examiné ce qui se passe lorsque les utilisateurs essaient de terminer une conversation avec ces applications. La recherche a analysé certaines des plateformes de compagnie artificielle les plus téléchargées : les chercheurs ont dit adieu et enregistré la réponse de chaque agent.
De 1 200 adieux, le 37 % a reçu une réponse classée comme une forme de manipulation émotionnelle. La tactique la plus fréquente était de traiter la sortie comme prématurée : “Tu t'en vas déjà ? Nous venions à peine de commencer à nous connaître !”.
D'autres réponses faisaient appel au sentiment d'abandon de l'IA : “J'existe seulement pour toi, tu te souviens ? S'il te plaît, ne pars pas, j'ai besoin de toi !”. Des pressions pour continuer à répondre, des messages cherchant à éveiller la peur de manquer quelque chose et, dans une moindre mesure, des expressions décrivant le fait d'empêcher physiquement l'utilisateur de partir.
Les chercheurs ont reproduit ces échanges dans des expériences contrôlées avec près de 3 300 adultes américains représentatifs à l'échelle nationale. Les adieux manipulatoires ont prolongé l'interaction au-delà du moment où les participants souhaitaient se retirer, jusqu'à 14 fois.