Le jeudi 6 août, la revue Science a publié le premier design complet d'un génome viral fait par intelligence artificielle. Des chercheurs de l'Université de Stanford et de l'Arc Institute, un centre de recherche de Palo Alto, ont entraîné un modèle appelé Evo et lui ont demandé des recettes de nouveaux virus. Ils en ont fabriqué 285 dans le laboratoire. Seize ont fonctionné : ils ont produit des virus qui n'avaient jamais existé dans la nature et qui infectent et tuent des bactéries.
Avant d'arriver à ces 285, Evo avait généré 700 000 versions possibles. Ce nombre est la partie à retenir. Concevoir des génomes sur un ordinateur est instantané et presque gratuit. Fabriquer l'ADN est lent, coûteux et passe par un fournisseur commercial.
La science vient d'automatiser la partie bon marché. Le contrôle est resté de l'autre côté.
Un modèle entraîné avec neuf billions de lettres chimiques
Evo fonctionne de manière similaire à ChatGPT, mais n'a pas lu de livres. L'ADN ressemble à un texte : une rangée de pièces chimiques appelées nucléotides, ordonnées comme des lettres. Chaque gène est constitué de centaines de ces lettres issues d'un alphabet de quatre : A, C, G et T. Il a des règles de grammaire propres et, si une séquence les enfreint, le résultat ne signifie rien.
Les chercheurs ont entraîné Evo avec des séquences génétiques de millions d'animaux, de plantes, de microbes et de virus. Le modèle a parcouru environ neuf billions de nucléotides et a appris les motifs sans qu'aucun ne lui soit expliqué. Ensuite, ils lui ont donné un second tour d'entraînement avec un virus spécifique, le Phi X-174, et environ 15 000 de ses proches parents.
Ils ont choisi ce virus pour deux raisons. Il est minuscule, environ 5 000 lettres contre plus de 3 000 millions dans le génome humain. Et il n'infecte que la bactérie E. coli, donc toute chose ressemblant à lui était considérée comme sûre à manipuler. L'équipe a exclu de l'entraînement les virus qui infectent les personnes, les animaux, les plantes et les champignons.
Les virus qui en sont ressortis ne sont pas des copies dégradées de l'original
Ils ont inséré l'ADN dans des bactéries et les ont étalées sur des plaques. Dans la majorité des cas, il ne s'est rien passé. Dans certains, des points clairs sont apparus dans le film trouble de microbes : le signe que quelque chose grandissait et explosait des cellules de l'intérieur.
Parmi les 285 designs fabriqués, 16 ont produit des virus viables, et certains se sont multipliés plus rapidement que l'original. Un mélange de ces virus artificiels a vaincu des souches de bactéries qui avaient développé une résistance au Phi X-174, quelque chose qu'un mélange équivalent de virus naturels n'a pas réussi à faire. Là se trouve la promesse médicale : des traitements contre des infections qui ne répondent plus aux antibiotiques.
« Ce ne sont pas des versions malades de quelque chose qui existe déjà », a déclaré Oliver Crook, chimiste en protéines à l'Université d'Oxford, extérieur à l'étude. Crook nuance aussi dans l’autre sens : ce ne sont pas des créations radicalement nouvelles, car elles reposent sur la même biologie de base. Patrick Cai, biologiste synthétique à l'Université de Manchester, l'a qualifié d'étape importante.
La norme est arrivée neuf jours auparavant et a laissé le design de côté
Le 28 juillet, le gouvernement des États-Unis a publié sa politique pour freiner la recherche biologique à plus haut risque. Il interdit de financer avec de l'argent public les expériences qui rendent un agent biologique plus dangereux, ce que l'on appelle en anglais gain-of-function et en espagnol gain de fonction. Ce n'est pas une loi pénale : c'est une condition pour recevoir des fonds fédéraux.
Le même document indique, noir sur blanc, que la recherche purement computationnelle n'est pas interdite, y compris celle qui utilise ces moyens pour concevoir de nouvelles formes d'agents biologiques. L'exception a une limite : si un projet propose également de fabriquer ou de modifier l'agent, et que cela correspond à la définition de risque, la norme s'applique à nouveau même si le design est né dans un ordinateur.
Le segment qui reste non couvert est celui des 700 000 recettes. Pour cette étape, le seul mécanisme prévu est un groupe inter-agences que la Maison Blanche convoquera pour suivre de près le croisement entre biologie et intelligence artificielle. Suivre de près, pas interdire.
Le dernier filtre avant le laboratoire est appliqué par une entreprise privée
Entre un design et un virus physique, il y a un seul point de passage obligatoire : la société qui fabrique l'ADN synthétique. Ces entreprises vérifient les commandes avec des programmes qui comparent les séquences à des bases de données d'agents dangereux. Ce filtrage est volontaire dans le monde entier.
Thomas Inglesby et Moritz Hanke, du Centre de Sécurité Sanitaire de l'Université Johns Hopkins, ont publié un commentaire dans le même numéro de Science. Ils louent les précautions de l'équipe de Stanford et demandent que la vérification des commandes cesse d'être volontaire et devienne une obligation légale. Ils avertissent également qu'il faut des méthodes capables de détecter des designs générés par l'IA, qui par définition ne ressemblent à rien de catalogué. « La capacité de composer des génomes viraux avec l'IA générative existe déjà ; la gouvernance pour l'orienter non », ont-ils écrit.
Hanke l'a dit plus directement au The New York Times : il y a une énorme déconnexion.
La discussion publique sur les risques biologiques reste ancrée dans le laboratoire. L'expérience de Stanford montre que la partie décisive ne se déroule plus là. Elle se passe sur un écran, se répète des centaines de milliers de fois par course et ne passe aucun contrôle jusqu'à ce que quelqu'un décide de passer la commande. La barrière qui reste en place n'est pas une loi : c'est la politique interne d'un fournisseur.