Utah a lancé en janvier un projet pilote pour qu'une IA de la startup Doctronic renouvelle des prescriptions médicales. Si cela avance à sa phase finale, le système pourra le faire de manière autonome sans révision préalable d'un médecin, une décision qui a provoqué un choc avec une partie du corps médical en raison des risques cliniques et de la responsabilité légale en cas d'éventuelles erreurs, selon The Wall Street Journal.
Selon les résultats de Doctronic diffusés par l'État le mois dernier, l'outil a approuvé 72 % des demandes de renouvellement et a transféré le reste à un médecin pour des questions telles que la nécessité d'analyses de laboratoire, selon The Wall Street Journal.
Parmi les prescriptions renouvelées par l'IA, les médecins examinateurs ont été d'accord dans 91 % des cas, tandis que dans 9 % des cas restants, ils ont déclaré qu'il manquait d'informations; au final, 3 % des approbations de l'IA ont été rejetées par deux médecins examinateurs.
Le programme permet à tout adulte du Utah de se connecter au système pour demander le renouvellement de médicaments contre le cholestérol, d'antidépresseurs et d'autres traitements inclus dans une liste limitée, selon The Wall Street Journal.
Des responsables du Département du Commerce de l'Utah, qui supervise le projet, ont déclaré au média que parmi les médicaments inclus figurent Prozac et Lipitor.
Le conseil d'État des licences médicales a demandé la suspension du pilote
La résistance la plus forte est venue du conseil d'État des licences médicales. La majorité de ses membres, dont le médecin de famille Alan Smith, président du conseil médical de l'Utah, ont signé une lettre demandant la suspension du projet pour des raisons de sécurité, selon The Wall Street Journal.
« Les personnes peuvent avoir des réactions mortelles aux médicaments », a déclaré Smith à The Wall Street Journal. « De plus, je suis préoccupé par la responsabilité légale. Qui est réellement responsable des problèmes qui peuvent survenir à cause du renouvellement d'un médicament ? ».
Dans cette lettre, les signataires ont soutenu que l'outil de Doctronic n'a pas été suffisamment évalué et ont averti que prescrire peut générer des risques car les médicaments peuvent provoquer des effets indésirables ou peuvent ne plus être appropriés pour un patient, selon The Wall Street Journal. L'Utah Medical Association a déclaré à The Wall Street Journal qu'elle était d'accord avec cette position.
Les responsables de l'État qui gèrent le projet pilote ont répondu que le conseil médical n'a pas d'autorité sur le projet, bien qu'ils aient affirmé qu'ils consulteront cet organisme, selon The Wall Street Journal.
Le conseil reviendra débattre du programme jeudi, avec la participation de spécialistes externes.
L'allergologue Jonathan Olsen, membre du conseil médical de l'Utah, a déclaré à The Wall Street Journal que la valeur des 3 % de rejets finaux n'est pas claire, en partie parce que les examinateurs ne sont pas indépendants de l'entreprise et qu'on ne connaît pas leurs antécédents ni leurs spécialités. Olsen a décrit la technologie comme « une boîte noire ».
« Nous n'avons rien de semblable pour l'IA en général », a déclaré Olsen à The Wall Street Journal, comparant le système aux exigences humaines pour exercer la médecine, telles que le cursus, les examens d'aptitude et la résidence.
Débat dans d'autres États et références à la FDA
La dispute a débordé du Utah. Selon The Wall Street Journal, des législateurs de New York examinent un projet pour empêcher les chatbots d'agir en tant que médecins licenciés, tandis que Delaware a adopté une loi interdisant à une technologie d'IA d'obtenir une licence en tant que médecin ou infirmier.
À l'inverse, des législateurs de Iowa et Idaho ont présenté ce printemps des propositions pour créer de nouvelles licences cliniques pour des services autonomes d'IA, selon The Wall Street Journal.
L'Cicero Institute, un centre d'études financé par le cofondateur de Palantir Technologies Joe Lonsdale, a soutenu ce type de législation en faisant valoir qu'elle peut aider face à la pénurie de médecins et favoriser l'innovation.
Des chercheurs ayant écrit dans The New England Journal of Medicine et dans la revue britannique BMJ, entre autres publications médicales, ont rejoint les médecins de Utah pour exprimer des objections.
Selon The Wall Street Journal, Doctronic n'a pas publié d'études sur son processus automatisé de renouvellement ni obtenu l'approbation de la Food and Drug Administration au cas où la technologie serait considérée comme un dispositif médical.
Une porte-parole de la FDA a déclaré à The Wall Street Journal que les États régulent l'exercice de la médecine et supervisent les licences sanitaires. « La question de savoir si un produit est classé comme dispositif médical dépend de l'évaluation de la FDA des faits et circonstances particuliers du produit spécifique ».
La American Medical Association a également exprimé, en termes généraux, son opposition à ce que l'IA remplace les médecins. « C'est vraiment une inquiétude pour une pente glissante. Commençons-nous ici avec les prescriptions et, soudain, cela va-t-il mener à des tests diagnostics ? », a déclaré John Whyte, directeur exécutif de l'AMA, à The Wall Street Journal.
L'État a affirmé que le système n'a pas encore suffisamment de données pour fonctionner sans révision préalable
Utah a activé le projet à travers un environnement réglementaire spécial pour tester de nouvelles technologies, selon The Wall Street Journal. Les responsables de l'État ont soutenu que le pilote comprend des garanties : une mise en œuvre progressive, une révision humaine initiale de toutes les prescriptions avant distribution et des changements introduits le mois dernier, parmi lesquels de nouvelles restrictions pour certaines prescriptions.
Cette première phase continue toujours. Selon The Wall Street Journal, la conception du programme stipule qu'il doit se poursuivre au moins jusqu'à ce qu'il y ait 250 prescriptions dans chaque classe de médicament.
Zach Boyd, directeur du Bureau de politique d'intelligence artificielle de l'Utah, a déclaré à The Wall Street Journal que le projet a été conçu avec précaution et que l'État a exigé de Doctronic qu'elle contracte une assurance responsabilité professionnelle pour sa technologie d'IA. Il a ajouté que, bien que les problèmes juridiques puissent être nouveaux, la société doit assumer sa responsabilité ordinaire en matière de dommages.
Cette assurance a été émise par Beazley, compagnie d'assurance responsabilité professionnelle, dont la porte-parole a refusé de faire des commentaires à The Wall Street Journal.
Boyd a ajouté qu'à ce jour, il n'y a pas eu d'incidents graves de sécurité, mais que l'État n'a pas encore suffisamment de données pour passer à la phase suivante, où les renouvellements approuvés par l'IA iraient à la pharmacie sans approbation préalable d'un médecin et seraient examinés par la suite.
Doctronic a déclaré à The Wall Street Journal que son IA utilise des directives cliniques élaborées par des médecins et que les professionnels qui examinent les renouvellements exercent un jugement indépendant et ont les spécialités appropriées.
Adam Oskowitz, chirurgien vasculaire et co-directeur exécutif de la société basée à New York, a déclaré au média : « Il existe une partie importante de la médecine qui est fondée sur des preuves, qui est fondée sur des règles, qui est algorithmique. Les systèmes d'IA sont très bons pour suivre ces normes ».
La société a également déclaré qu'elle travaillerait avec un partenaire de recherche indépendant pour publier les résultats du pilote du Utah dans une revue scientifique évaluée par des pairs, selon The Wall Street Journal.