Dans le numéro du 12 avril de Nature , mes collègues et moi avons publié un article sur les orientations futures de la pratique de la médecine de l'intelligence artificielle générative (IA) - également connue sous le nom de modèles Extended Language ou Foundations, [utilisés pour effectuer des tâches liées au traitement du langage naturel et peut être utilisé pour comprendre et répondre à des requêtes rédigées dans une langue donnée]—. Ces nouveaux modèles d'IA ont apporté une multitude de nouvelles opportunités passionnantes dans le domaine de la santé que nous n'avions pas auparavant, ainsi que de nombreux défis et responsabilités . Je vais vous expliquer brièvement comment nous en sommes arrivés là et ce qui nous attend.
L'IA en médecine est essentiellement une histoire à un mode à ce jour. Il aide à lire une radiographie ou une IRM, trouve des polypes lors d'une coloscopie, fournit des conseils au patient pour une condition spécifique comme le diabète, ou un diagnostic préliminaire d'une lésion cutanée ou d'un rythme cardiaque à partir d'un enregistrement de smartwatch. À ce jour, il a été largement axé sur l'image , avec une intégration ou une utilisation minimale de texte et de saisie vocale. Mais avec le temps, cette étroitesse et cette restriction pourraient bien s'atténuer.
Mes collègues et moi avons récemment rédigé une revue du potentiel de l'IA multimodale, lorsque des données provenant de nombreuses sources peuvent être ingérées et traitées . Personne ne l'a encore fait : recueillir et extraire des connaissances d'individus à grande échelle, des sources de données comprenant de multiples biocapteurs continus, des couches biologiques telles que le génome et le microbiome , l' environnement et les dossiers médicaux. Cela sera finalement non seulement réalisable, mais ouvrira de nombreuses opportunités telles qu'un coach de santé virtuel, un hôpital à domicile et une infrastructure de jumeau numérique .
Comment allons-nous y arriver?
Il y a eu un intérêt sans précédent pour ChatGPT et les modèles de langage étendus (LLM) . Beaucoup l'ont qualifié de moment iPhone, avec la base d'utilisateurs la plus rapide de tous les temps, contre 100 millions d'utilisateurs.
Je le vois comme 4 blocs de construction principaux qui nous ont amenés ici. L'IA d'apprentissage en profondeur était alimentée par un grand nombre d'unités de traitement graphique (GPUS ou TPU), mais l'IA générative est ce que vous trouvez sur de fortes doses de stéroïdes. Cela a créé une capacité apparemment insatiable à ingérer des données , sous forme de jetons , avec des paramètres, le terme représentant le nombre de connexions entre les neurones, et la métrique de puissance de calcul connue sous le nom d'opérations à virgule flottante (FLOPS).
Au lieu de l' apprentissage supervisé qui a largement conduit les algorithmes médicaux à ce jour, qui nécessite une annotation experte des images et des vérités sur le terrain, la formation LLM est disproportionnée par rapport aux entrées de données massives.
Les détails du nouveau modèle GPT-4 ont été publiés le 14 mars 2023. Sa capacité multimodale (désormais bimodale avec intégration de texte et d'image ) a augmenté, "surpassant les LLM existants sur un ensemble de tâches de traitement du langage." naturel".
C'est l'union des données multimodales une grande avancée pour les LLM, puisque vous pouvez voir l'accélération de chaque modalité augmenter séparément sur une échelle logarithmique.
Une IA plus grande (plus de paramètres) est-elle meilleure ?
Suite à l'excellent article récent d'Anil Ananthaswamy dans Nature montrant l'évolution accélérée (échelle logarithmique) pour chaque domaine de données (par paramètres), la réponse à cette question est clairement « non » . Alors que les modèles de transformateurs, tels qu'utilisés avec les LLM, ont déjà dépassé 1 billion de paramètres, le nombre de jetons est exceptionnellement élevé.
L'AlphaFold de DeepMind , qui prédit avec précision la structure tridimensionnelle des protéines à partir de séquences d'acides aminés, est peut-être le LLM le plus réussi à ce jour en termes d'impact transformateur. Par conséquent, la rumeur selon laquelle GPT-4 aurait plus de 100 billions de paramètres est non seulement incorrecte, mais surestime grossièrement l'un des composants des LLM. Je le répète : les jetons sont très importants. Plus grand (par paramètres) n'est pas nécessairement meilleur.
Du chat avec Sydney à l'IA médicale multimodale
Alors que la longue conversation de Kevin Roose avec Sydney (la mise à jour du moteur de recherche Bing de Microsoft intégrant ChatGPT+) restera dans l'histoire et fera même la une du New York Times , rappelons que nous n'en sommes encore qu'aux débuts des LLM. et pratiquement aucun n'a reçu de formation préalable spécifique ou approfondie en médecine.
J'ai récemment écrit sur la façon dont Med-PALM et ChatGPT de Google ont obtenu de bons résultats à l'examen de licence médicale aux États-Unis. Aujourd'hui, nous venons d'apprendre que la prochaine itération du LLM de Google, Med-PaLM-2 a obtenu 85 %, bien au-dessus du rapport précédent de 67 % ( 60 % dépassent le seuil de score). Mais cela utilise la mémoire d'un chatbot pour une tâche de langage monomode qui repose principalement sur la mémoire et la juxtaposition statistique de mots, décrite à juste titre comme une image JPEG avec perte par Ted Chiang dans le New Yorker.
Il y a un grand pas en avant à partir de cela pour conduire la libération du clavier pour les médecins, qui ne fait que commencer, en utilisant les entrées de formation LLM de millions ou de dizaines de millions de dossiers médicaux. Dans les mois à venir, nous verrons le début de l'IA générative pour assumer autant de tâches basées sur le langage : notes de bureau vocales synthétiques (avec ordonnances automatisées, rendez-vous à venir, codes de facturation, planification des laboratoires et des tests ), préautorisation des compagnies d'assurance , ajouter et résumer l'historique d'un patient à partir de l'examen de son ou ses dossiers médicaux, des notes opératoires et de procédure, des résumés de sortie et plus encore.
Exemples de Doximity [service de réseautage en ligne pour les professionnels de la santé qui fournit des informations médicales, des outils de télésanté et une collaboration sur les cas], docsGPT [qui intègre le chatbot ChatGPT AI dans votre fichier Google Doc] et Abridge [société d'enregistrement] Ils nous montrent la voie .
Contrairement à la catastrophe des dossiers de santé électroniques qui a transformé les médecins en commis de données et provoqué un profond désenchantement, les LLM pourraient éventuellement être adoptés comme antidote.
De toute évidence, il y a des problèmes importants à affronter, y compris non seulement les hallucinations LLM (nécessitant une supervision par des humains dans la boucle), le pseudo-raisonnement, l'amplification des préoccupations concernant les préjugés, la vie privée et la sécurité des données, la domination de l'industrie technologique et plus encore.
Mais sans LLM, il serait difficile de voir comment nous pourrions faire avancer les progrès de l'IA multimodale. En fin de compte, c'est la capacité de passer de manière transparente entre l'imagerie médicale, le texte, la voix et toutes les sources de données (capteurs, génome, microbiome, littérature médicale) qui fournira les nombreuses opportunités mentionnées.
Je suis donc ravi de voir l'évolution rapide des LLM et leur future application à la médecine et aux soins de santé.
*Le Dr Eric Topol est un cardiologue, généticien et chercheur en médecine numérique américain. Il est le fondateur et directeur du Scripps Research Translational Institute, un centre de recherche basé en Californie pour les sciences biomédicales fondamentales. Professeur de médecine moléculaire et vice-président exécutif de Scripps Research. Il a publié plus de 1 200 articles évalués par des pairs, avec plus de 320 000 citations, élu à la National Academy of Medicine des États-Unis.Il est l'un des 10 chercheurs médicaux les plus cités. Son principal objectif scientifique est la médecine individualisée utilisant des outils génomiques, numériques et d'IA. Cet article a été publié sur la plateforme Substack.
Continuer à lire