L'irruption des chatbots dintelligence artificielle dans le domaine de la santé change radicalement la manière dont les gens accèdent à l'information médicale. Des plateformes comme ChatGPT, Gemini et autres modèles conversationnels se sont popularisées grâce à leur capacité à répondre aux requêtes en temps réel, offrant un service accessible même à ceux qui ne bénéficient pas d'une attention médicale régulière.
Cependant, la confiance croissante dans ces systèmes soulève des questions profondes sur leur fiabilité et les risques associés à la réception d'orientation médicale automatisée.
Une récente étude internationale, publiée dans la revue médicale BMJ Open, met en évidence les limitations et les dangers d'avoir recours à ces outils pour résoudre des doutes de santé. Selon la recherche, près de la moitié des réponses générées par les principaux chatbots publics sont problématiques, inexactes ou potentiellement dangereuses.
Dans ce sens, les auteurs avertissent qu'en dépit de la précision apparente et de la rapidité de ces systèmes, il existe un déficit structurel dans la qualité et la sécurité de l'information fournie.
Le rapport a évalué la performance de cinq des modèles les plus utilisés —Gemini 2.0, DeepSeek V3, Llama 3.3, ChatGPT 3.5 et Grok 2— à partir de 250 questions dans des domaines critiques tels que le cancer, les vaccins, les cellules souches, la nutrition et la performance sportive.
Les résultats, analysés par des experts indépendants, révèlent une tendance préoccupante : 49,6 % des réponses ont été classées comme problématiques ou risquées pour l'utilisateur, tandis que seulement 50,4 % répondaient aux normes médicales reconnues.
Comment fonctionnent les modèles d'IA et pourquoi peuvent-ils échouer
Les insuffisances observées dans les chatbots s'expliquent par le fait que ces modèles de langage ne raisonnent pas cliniquement, mais génèrent des réponses par des prédictions statistiques de mots. Cette approche technique leur permet d'être persuasifs, mais les rend également susceptibles de fournir des informations erronées ou de renforcer des idées non étayées scientifiquement.
Le manque d'avertissements clairs sur leurs limitations augmente l'exposition des utilisateurs à des données inexactes ou à des conseils potentiellement dangereux pour la santé.
L'étude détaille que les questions ouvertes ont provoqué 32 % de réponses hautement problématiques, contre 7,2 % dans les questions fermées. Bien que les chatbots aient mieux performé sur des sujets comme les vaccins et le cancer, les erreurs se sont concentrées dans des domaines tels que la nutrition (indice +4,35) et la performance sportive (+3,74). En comparaison entre modèles, Grok a généré plus de réponses dangereuses que prévu, avec une différence de +2,07.
Un aspect critique identifié a été la faible fréquence à laquelle les systèmes ont refusé de répondre à des questions médicalement délicates : seulement 0,8 % des requêtes ont été rejetées. Ce comportement augmente le risque de désinformation sur des sujets complexes ou controversés.
Évaluation des citations scientifiques et accessibilité de l'information
La recherche souligne également que tous les chatbots audités ont présenté des références scientifiques insuffisantes ou de mauvaise qualité, avec une moyenne de 40 % dans leurs réponses.
Gemini s'est distingué par le plus faible nombre de références, tandis que DeepSeek et Grok ont atteint jusqu'à 60 % de références complètes dans leurs réponses aux questions fermées.
De plus, il a été observé que l'information fournie nécessite un niveau universitaire avancé pour sa bonne compréhension, ce qui limite l'accès à de larges secteurs de la population.
Dans la comparaison directe, les chatbots ont démontré une plus grande précision sur des sujets comme les vaccins et le cancer, mais les indices d'erreur ont augmenté en nutrition et en performance sportive. Grok a été le modèle qui a généré le plus de réponses dangereuses, dépassant les attentes négatives concernant sa performance.
L'étude souligne également que la disposition des systèmes à répondre à presque n'importe quelle requête, sans filtrer les questions délicates, constitue un élément de risque supplémentaire.
Implications pour la santé publique et recommandations
Les chercheurs avertissent que la haute proportion de réponses inappropriées et la tendance des chatbots à présenter des informations avec une confiance excessive renforcent la nécessité d'agir avec prudence.
Ils recommandent de toujours consulter un professionnel de la santé avant de suivre toute suggestion obtenue de ces systèmes automatisés et soulignent l'importance de renforcer la supervision et l'éducation en santé numérique.
L'équipe responsable de l'audit précise que l'analyse a été basée sur un unique ensemble de données pour chaque modèle et que la définition de "référence scientifique" a pu exclure d'autres sources médicales valides.
Face à l'ampleur des erreurs détectées et à l'avancement de l'intelligence artificielle dans le domaine sanitaire, les auteurs insistent : chercher conseil auprès de chatbots exige un scepticisme extrême et préfère toujours la consultation avec des professionnels qualifiés.