(HealthDay News) - L'intelligence artificielle (IA) n'est peut-être pas toujours la source d'informations sur la santé la plus précise, en particulier lorsqu'il s'agit de soins contre le cancer, selon une nouvelle recherche.
Deux nouvelles études ont évalué la qualité des réponses fournies par les chatbots IA à diverses questions sur les soins contre le cancer.
L'un d'entre eux, publié dans le numéro du 24 août de JAMA Oncology, portait sur le service d'IA conversationnelle en phrases complètes connu sous le nom de ChatGPT, lancé en grande pompe en novembre dernier.
Le côté positif : environ les deux tiers des informations sur le cancer fournies par ChatGPT correspondaient exactement aux directives actuelles du National Comprehensive Cancer Network des États-Unis.
Le bémol : le reste ne correspondait pas.
"Certaines recommandations étaient clairement complètement fausses ", a déclaré l'auteur de l'étude, le Dr Danielle Bitterman, professeur adjoint de radio-oncologie au Brigham and Women's Hospital/Dana-Farber Cancer Institute et à la Harvard Medical School de Boston. « Par exemple, les occasions où un traitement curatif était recommandé pour un diagnostic incurable .
D’autres fois, les mauvaises recommandations étaient plus subtiles . Par exemple, inclure certaines parties, mais pas toutes, d'un schéma thérapeutique, par exemple en mentionnant uniquement la chirurgie, alors que le traitement standard comprend également la radiothérapie ou la chimiothérapie, a déclaré Bitterman.
C'est inquiétant , a-t-il noté, étant donné la mesure dans laquelle « des informations incorrectes ont été mélangées à des informations correctes, ce qui rend la détection des erreurs particulièrement difficile, même pour les experts » .
Une deuxième étude publiée dans le même numéro de la revue propose une évaluation beaucoup plus positive de la précision de l'IA.
Dans ce cas, les chercheurs ont examiné les réponses de quatre services de chatbot différents : ChatGPT, Perplexity, Chatsonic et Bing de Microsoft . Chacun a été invité à parler du cancer de la peau, du poumon, du sein, de la prostate ou du côlon .
Les chercheurs ont jugé « bonnes » la qualité et l'exactitude des réponses.
Mais ils ont dit que cela ne signifie peut-être pas que l’expérience de l’IA sera utile aux patients. En effet, la plupart des informations fournies étaient trop complexes pour la plupart des professionnels non médicaux.
Dans le même temps, toutes les réponses comprenaient un avertissement général selon lequel les patients ne devraient prendre aucune décision en matière de soins de santé sur la base des données fournies sans consulter au préalable un médecin .
L’essentiel à retenir est que de nombreux utilisateurs d’IA sont susceptibles de trouver les informations médicales générées par l’IA incompréhensibles, peu pratiques, ou les deux.
"Les résultats étaient encourageants, dans le sens où il y avait très peu de désinformation , puisque c'était notre principale préoccupation au départ", a déclaré l'auteur de l'étude, le Dr Abdo Kabarriti, chef du service d'urologie au South Brooklyn Health, dans l'interview. La ville de York.
"Mais la plupart des informations, bien qu'exactes, n'étaient pas rédigées dans un langage simple" , a-t-il ajouté.
Fondamentalement, les chatbots fournissaient des informations au niveau de lecture universitaire, alors que le consommateur moyen lit plus ou moins au niveau de la sixième année, a déclaré Kabarriti.
Les informations reçues par l'équipe de Kabarriti étaient « bien supérieures à cela », a-t-il déclaré.
Un autre facteur susceptible de frustrer de nombreux patients est que l'IA ne vous dit pas quoi faire face aux symptômes du cancer qu'elle décrit , a noté Kabarriti.
"Il dit simplement" consultez votre médecin " , a-t-il déclaré. « Il s'agit peut-être d'une question de responsabilité juridique. Mais le fait est que les chats IA ne remplacent pas l’interaction que les patients devraient avoir avec leurs médecins .
Le Dr Atul Butte, chercheur principal en données au système de santé de l'Université de Californie, a rédigé un éditorial publié conjointement avec l'étude.
Malgré les inquiétudes soulevées par les deux études, il considère l’IA comme un « avantage net important » pour les patients et la communauté médicale dans son ensemble.
"Je pense que le verre est à plus de la moitié plein", a déclaré Butte, soulignant qu'avec le temps, les informations fournies par les chatbots deviendront inévitablement plus précises et accessibles.
Butte a déclaré que certaines études ont déjà montré que l’IA a le potentiel d’offrir de meilleurs conseils, et encore plus d’empathie, que les professionnels de la santé.
Selon lui, au fil du temps, les chatbots IA joueront un rôle de plus en plus essentiel dans la gestion des soins de santé et de l’information. Le bénéfice sera tangible pour de nombreux patients, a prédit Butte.
Peu de patients ont les ressources ou le privilège de se rendre dans les meilleurs centres médicaux du monde, a-t-il souligné.
"Mais imaginez si nous pouvions former l'intelligence artificielle sur les données et les pratiques de ces lieux importants, puis transmettre ces connaissances au monde entier grâce à des outils numériques", que ce soit pour les patients via des applications ou pour les médecins via des systèmes de dossiers médicaux électroniques. , a déclaré Butte.
"C'est pourquoi je commence à qualifier l'intelligence artificielle de" privilège extensible "", a-t-il ajouté. « [C'est] notre meilleur moyen d'étendre au monde entier ces soins de santé haut de gamme, dont [seulement] certains peuvent bénéficier. »
© Le New York Times 2023
Article de HealthDay, traduit par HolaDoctor.com
SOURCES : Danielle Bitterman, MD, professeure adjointe, radio-oncologie, Brigham and Women's Hospital/Dana-Farber Cancer Institute et Harvard Medical School, Boston ; Abdo Kabarriti, MD, chef du service d'urologie, South Brooklyn Health, New York ; Atul Butte, MD, PhD, scientifique en chef des données, système de santé de l'Université de Californie, et professeur et directeur inaugural, Bakar Computational Health Sciences Institute, UC San Francisco ; JAMA Oncologie, 24 août 2023