Des plateformes comme Character.AI, développées par d’anciens employés de Google Brain en 2022, sont devenues un refuge pour les adolescents qui cherchent un moyen de sortir de leur sentiment d’isolement, ainsi qu’un terrain d’essai pour expérimenter et développer des compétences sociales sans crainte d’être rejeté.
Nous expliquons ici ce qui s'est passé avec plusieurs jeunes qui ont interagi avec ce nouvel outil, et les alertes présentées par plusieurs experts de la santé sur son utilisation excessive.
Pourquoi les jeunes se tournent vers les chatbots pour obtenir un soutien émotionnel
Récemment, Aaron, un jeune Canadien de 15 ans, a rapporté à un média un cas qui illustre cette tendance en se tournant vers Character.AI pour trouver compagnie et conseils auprès de ces êtres numériques.
Parmi les robots les plus populaires figure le « Psychologue », qui vise à utiliser des techniques de thérapie cognitivo-comportementale (TCC) pour aider les utilisateurs. Cependant, l’efficacité et la pertinence de ces méthodes dans un environnement virtuel sans encadrement professionnel soulèvent de sérieuses questions, notamment dans le milieu de la santé.
Ce nouveau mode d'interaction vise à offrir aux jeunes un espace sûr pour explorer et exprimer leurs émotions, leurs pensées et leur créativité. Cependant, cela soulève de sérieuses questions quant aux coûts que cela pourrait avoir sur la santé de cette population.
Quels risques génère la dépendance émotionnelle à l’IA ?
Par exemple, le Dr Kelly Merrill Jr., de l’Université de Cincinnati, a déclaré aux médias internationaux que, même si l’on reconnaît les avantages potentiels de ces chatbots pour atténuer la dépression et l’anxiété, il est essentiel de comprendre leurs limites. Les chatbots ne peuvent pas et ne doivent pas remplacer une véritable assistance et interaction humaine.
De même, les interactions avec ces IA, même si elles peuvent constituer un répit émotionnel temporaire, soulèvent de sérieuses questions quant à leur impact à long terme sur le développement émotionnel et social des adolescents.
La confusion entre le virtuel et le réel, ainsi que la possibilité d’une dépendance exacerbée à ces appareils, soulignent l’urgence d’éduquer les jeunes à une utilisation responsable de la technologie.
Ce que les experts recommandent concernant l’utilisation de l’IA dans ces cas
La vérité est que Character.AI contient un microcosme de possibilités et de défis. D'une part, il offre une plateforme d'expression de soi sans crainte de jugement, permettant aux utilisateurs d'expérimenter leur identité et leurs compétences sociales dans un environnement contrôlé.
D’un autre côté, il présente un labyrinthe de réalités alternatives qui peuvent éloigner les jeunes de l’essence des véritables relations humaines et du développement de compétences sociales essentielles à la vie quotidienne.
Il est impératif que les parents, les éducateurs et les professionnels de la santé mentale participent activement au dialogue sur une interaction saine avec ces technologies. Ils doivent sensibiliser aux limites de l’intelligence artificielle et favoriser un équilibre entre le monde numérique et le développement des relations interpersonnelles dans le monde réel.
De même, les histoires de millions de jeunes à travers le monde mettent en lumière la complexité de cette époque, caractérisée par des avancées technologiques sans précédent qui offrent à la fois des solutions innovantes et de nouveaux dilemmes. Dans ce contexte, une surveillance constante de ces outils est pertinente, surtout s’ils sont utilisés par la population enfantine.