Le programme de l'Utah permet de renouveler des ordonnances avec le chatbot d'IA Doctronic sans passer par le cabinet et a ouvert un débat aux États-Unis sur la question de savoir si une machine peut assumer des tâches réservées aux médecins agréés.
La discussion s'est intensifiée car l'entreprise prévoit d'avancer vers des renouvellements automatisés, a rapporté The Associated Press.
Le programme a commencé cette année sous un "sandbox" réglementaire de l'Utah, un mécanisme qui permet aux fonctionnaires d'État de suspendre certaines lois pour les entreprises d'IA qui offrent une technologie considérée comme prometteuse.
Ce cadre a permis à Doctronic de lancer un système qui, pour de nombreux spécialistes, frôle une attribution que la loi réserve aux professionnels agréés.
“Nous avons franchi un seuil en termes d'octroyer à quelque chose qui n'est pas humain une licence médicale, que nous le voulions ou non”, a déclaré le médecin Eric Bressman, de l'Université de Pennsylvanie, cité par l'agence.
Bressman et d'autres experts ont précisé qu'ils ne rejettent pas la prescription assistée par IA, mais soutiennent qu'elle devrait respecter des normes comparables à celles exigées aux médecins.
Comment fonctionne le système et quelles objections suscite-t-il
Dans le programme de l'Utah, les résidents peuvent accéder à un site web de Doctronic, confirmer leur identité et remplir un questionnaire sur les ordonnances et antécédents médicaux : le système vérifie l'existence d'une ordonnance valide via une base de données pharmaceutique nationale et, s'il ne détecte pas de problèmes, renouvelle l'ordonnance et l'envoie à une pharmacie locale.
Si la demande nécessite plus d'attention, elle dirige le patient vers un médecin du service de télésanté de l'entreprise.
Le système de renouvellement est supervisé par un conseil de cinq spécialistes en intelligence artificielle, aucun d'eux médecin, qui a affirmé avoir mis en place plusieurs garanties. Au stade initial, toutes les demandes de renouvellement sont examinées par des médecins humains.
Le conseil médical d'État a remis en question l'ampleur du programme
Le président du conseil d'État des licences médicales, le médecin de famille Alan Smith, a déclaré qu'il et ses collègues ont découvert l'existence du programme lorsque son lancement en janvier a été évoqué dans les nouvelles.
Dans une lettre envoyée en mars à l'État, 11 membres de ce conseil ont demandé sa suspension en raison des risques de renouvellement automatique de médicaments ayant des effets indésirables ou des interactions possibles.
“On nous a à peu près dit : ‘Oui, cela se produit. Et non, vous n'avez pas votre mot à dire dans cette affaire’”, a affirmé Smith. Le médecin a précisé qu'il parlait à titre personnel.
La controverse a également mis en lumière un conflit réglementaire plus large : la technologie médicale est souvent sous l'égide fédérale, tandis que l'exercice de la médecine est réglementé par les États.
Les dirigeants de Doctronic soutiennent que leur système d'IA fait partie d'une pratique médicale régulée par l'Utah. Mais la Food and Drug Administration des États-Unis, la FDA, devrait superviser les outils d'IA qui affectent directement les soins ou la prise de décisions médicales, une ligne que, selon certains experts, l'entreprise aurait déjà franchie.
Interrogés sur s'ils avaient demandé l'autorisation de la FDA, les dirigeants de l'entreprise n'ont pas répondu de manière concrète. “Notre objectif ici est vraiment de rencontrer les patients là où ils ont besoin d'attention médicale”, a déclaré le médecin Adam Oskowitz, cofondateur de l'entreprise avec un entrepreneur du secteur technologique. “Nous essayons de ne pas nous immiscer trop dans les détails réglementaires”.
Les médecins mettent en garde sur des médicaments sensibles et des changements cliniques
Oskowitz imagine un avenir où de nombreuses tâches médicales de routine, y compris des demandes d'examens et d'analyses de résultats, seraient déléguées à Doctronic pour que les médecins puissent s'occuper de milliers de patients de plus que ceux qu'ils gèrent aujourd'hui.
Smith a objecté que la liste des 190 médicaments éligibles au renouvellement inclut des anticoagulants, qui peuvent devenir dangereux si le patient développe des ulcères d'estomac ou d'autres conditions causant des hémorragies internes.
“Souvent, lorsque je vois les gens après six mois, je découvre que leur historique médical ou leur situation a changé”, a-t-il expliqué. “Le fait que quelque chose ait été prescrit auparavant ne signifie pas que cela reste approprié maintenant”.
La American Medical Association a exprimé des inquiétudes similaires et a averti que “les renouvellements d'ordonnances ne sont pas des cases à cocher à valider”.
Zach Boyd, responsable du bureau d'IA de l'Utah, a répondu que Doctronic a été jusqu'à présent trop prudente et qu'elle soumet généralement à des médecins des décisions peu controversées.
En raison des préoccupations de sécurité, plusieurs médicaments ont été retirés de la liste des médicaments éligibles au renouvellement, y compris un utilisé pour des battements cardiaques irréguliers.
Les données disponibles et l'expansion du modèle dans d'autres États
L'Utah a diffusé des données initiales sur le programme et Doctronic prévoit de publier des études révisées par des pairs plus tard cette année. Pour l'instant, la seule publication concernant sa technologie est un travail écrit par des scientifiques de l'entreprise qui n'a pas été évalué de manière indépendante.
Cette étude a analysé si le système pouvait diagnostiquer correctement des maladies à partir de dossiers de 500 consultations de télésanté. Dans cet ensemble, les diagnostics de Doctronic ont coïncidé avec ceux des médecins humains dans 80% des cas.
Bressman a soutenu que l'Utah aurait dû demander des données spécifiques sur les renouvellements d'ordonnances avant, plutôt que de le faire après que le système a déjà été mis en marche.
“En grande partie, ils acceptent de bonne foi la parole de l'entreprise selon laquelle elle est à la hauteur de la tâche”, a-t-il signalé au média.
Le débat ne se limite pas à l'Utah. Texas et Wyoming abandonnent également certaines règles pour l'utilisation de l'IA, tandis que des législateurs de l'Iowa, de l'Idaho et d'autres États ont présenté des projets de loi pour accorder des licences formelles aux services médicaux basés sur l'intelligence artificielle.
Nombre de ces initiatives reposent sur un modèle de l'Cicero Institute, un think tank favorable à l'IA fondé par Joe Lonsdale, cofondateur de l'entreprise de logiciel d'intelligence artificielle Palantir.
Adam Meier, directeur des politiques de santé de cette organisation, a attribué la résistance principalement à la peur économique des médecins et d'autres travailleurs de la santé.
Pour Daniel Aaron, professeur à la faculté de droit de l'Université de l'Utah, l'expansion de ces entreprises sous des cadres réglementaires disparates peut favoriser leurs affaires à court terme.
“Mais, à long terme, je pense qu'ils risquent de compromettre la confiance publique et d'attiser une réaction négative”, a-t-il déclaré à The Associated Press.
La FDA a indiqué qu'elle n'avait autorisé aucun chatbot d'IA, bien qu'elle ait affirmé vouloir encourager l'innovation médicale et rapprocher de nouvelles technologies des patients, avec la sécurité “au centre de chaque décision”.