Lorsque les informaticiens de Microsoft ont commencé à expérimenter un nouveau système d'intelligence artificielle l'année dernière, ils lui ont demandé de résoudre une énigme qui aurait dû nécessiter une compréhension intuitive du monde physique.
"Ici, nous avons un livre, neuf œufs, un ordinateur portable, une bouteille et un clou", ont-ils demandé. "S'il vous plaît, dites-moi comment les empiler les uns sur les autres de manière stable ."
Les chercheurs ont été étonnés de l'ingéniosité de la réponse du système d'IA. Mettez les œufs sur le livre, dit-il. Couchez les œufs en trois rangées avec un espace entre eux. Assurez-vous de ne pas les casser.
"Placez l'ordinateur portable sur les œufs, l'écran vers le bas et le clavier vers le haut. L'ordinateur portable s'intégrera parfaitement dans les limites du livre et des œufs et sa surface plate et rigide fournira une plate-forme stable pour la couche suivante.
Cette suggestion astucieuse a amené les chercheurs à se demander s'ils assistaient à un nouveau type d'intelligence . En mars, ils ont publié un article de 155 pages affirmant que le système était une étape vers l'intelligence artificielle générale, ou AGI, abréviation d'une machine capable de faire ce que fait le cerveau humain . Le document a été publié sur un référentiel de recherche Internet.
Microsoft, la première grande entreprise technologique à publier un article avec une affirmation aussi audacieuse, a déclenché l'un des débats les plus passionnés du monde de la technologie : l'industrie crée-t-elle quelque chose comme l'intelligence humaine ? Ou certains des esprits les plus brillants de l'industrie laissent-ils libre cours à leur imagination ?
"J'ai commencé très sceptique et cela a évolué vers la frustration, l'agacement et même la peur", a déclaré Peter Lee, directeur de la recherche chez Microsoft. "Vous pensez: d'où diable cela vient-il?"
Le document de recherche de Microsoft, nommé de manière provocante "Sparks of Artificial General Intelligence", va au cœur de quelque chose sur lequel les technologues travaillent - et craignent - depuis des décennies. S'ils construisent une machine qui fonctionne comme le cerveau humain ou même mieux, cela pourrait changer le monde. Mais cela pourrait aussi être dangereux.
Et cela pourrait aussi être un non-sens . Faire des déclarations sur l'intelligence artificielle peut détruire la réputation des informaticiens. Ce qu'un chercheur considère comme un signe d'intelligence peut facilement être réfuté par un autre, et le débat ressemble souvent plus à un club de philosophie qu'à un laboratoire informatique. L'année dernière, Google a licencié un chercheur qui affirmait qu'un système d'IA similaire était sensible, un pas au-delà de ce que Microsoft a affirmé. Un système sensé ne serait pas seulement intelligent. Il serait capable de sentir ce qui se passe dans le monde qui l'entoure.
Cependant, certains pensent qu'au cours de la dernière année, l'industrie s'est rapprochée de quelque chose qui ne peut être expliqué : un nouveau système d'IA qui donne des réponses et des informations de type humain qui ne sont pas programmées.
Microsoft a réorganisé une partie de ses laboratoires de recherche pour inclure divers groupes dédiés à l'exploration de cette idée. L'une d'elles sera animée par Sébastien Bubeck, auteur principal de l'article Microsoft AGI.
Il y a près de cinq ans, des entreprises comme Google, Microsoft et OpenAI ont commencé à créer d'excellents modèles de langage. Ces systèmes passent généralement des mois à analyser de grandes quantités de texte numérique, tels que des livres, des articles de Wikipédia et des journaux de discussion. En détectant des modèles dans ce texte, ils ont appris à générer leur propre texte, tel que des articles universitaires, de la poésie et du code informatique. Ils peuvent même tenir une conversation.
La technologie avec laquelle les chercheurs de Microsoft travaillaient, le GPT-4 d'OpenAI, est considérée comme la plus puissante de ces systèmes. Microsoft est un proche partenaire d'OpenAI et a investi 13 milliards de dollars dans la société de San Francisco.
Parmi les chercheurs figurait Bubeck, un expatrié français de 38 ans et ancien professeur à l'Université de Princeton. L'une des premières choses que lui et ses collègues ont faites a été de demander à GPT-4 d'écrire une preuve mathématique qui prouverait qu'il y avait une infinité de nombres premiers, et de le faire d'une manière qui rime.
La preuve poétique de la technologie était si impressionnante - à la fois mathématiquement et linguistiquement - qu'il avait du mal à comprendre à quoi il parlait .
« À ce moment-là, j'ai pensé : que se passe-t-il ? », commentait-il en mars lors d'un séminaire au Massachusetts Institute of Technology.
Pendant plusieurs mois, lui et ses collègues ont documenté le comportement complexe affiché par le système, qui, selon eux, démontrait une "compréhension profonde et flexible" des concepts et des capacités humaines.
Lorsque les gens utilisent GPT-4, "ils sont étonnés de sa capacité à générer du texte", a déclaré Lee. "Cependant, il s'avère qu'il est bien meilleur pour analyser et synthétiser et évaluer et juger des textes que pour les générer ."
Lorsqu'ils ont demandé au système de dessiner une licorne à l'aide d'un langage de programmation appelé TiKZ, il a instantanément généré un programme capable de dessiner une licorne. Lorsqu'ils ont supprimé la section de code qui dessinait la corne de la licorne et ont demandé au système de modifier le programme pour redessiner une licorne, c'est exactement ce qu'il a fait.
Ils lui ont demandé d'écrire un programme qui prendrait en compte l'âge, le sexe, le poids, la taille et les résultats des tests sanguins d'une personne et jugerait si elle était à risque de diabète. Ils lui ont demandé d'écrire une lettre soutenant un électron en tant que candidat à la présidence des États-Unis, dans la voix du Mahatma Gandhi, adressée à sa femme. Et ils lui ont demandé d'écrire un dialogue socratique explorant les abus et les dangers des LLM.
Il a tout fait d'une manière qui semblait montrer une compréhension de domaines aussi disparates que la politique, la physique, l'histoire, l'informatique, la médecine et la philosophie, tout en combinant leurs connaissances.
« Tout ce que vous pensiez ne pas pouvoir faire ? Il était certainement capable de faire beaucoup de ces choses, sinon la plupart", a déclaré Bubeck.
Certains experts en intelligence artificielle ont considéré l'article de Microsoft comme une tentative opportuniste de faire de grandes déclarations sur une technologie que personne ne comprenait parfaitement. Les chercheurs soutiennent également que l'intelligence générale nécessite une familiarité avec le monde physique que GPT-4 ne possède théoriquement pas .
Les "Sparks of AGI" sont un exemple de la façon dont certaines de ces grandes entreprises cooptent le format de l'article d'investigation pour leurs relations publiques ", a déclaré Maarten Sap, chercheur et professeur à l'Université Carnegie Mellon. "Ils reconnaissent littéralement dans l'introduction de leur article que leur approche est subjective et informelle et peut ne pas répondre aux normes rigoureuses d'évaluation scientifique."
Bubeck et Lee disent qu'ils ne savaient pas comment décrire le comportement du système et ont finalement opté pour "Sparks of AGI" parce qu'ils pensaient que cela captiverait l'imagination d'autres chercheurs.
Alison Gopnik, professeur de psychologie au sein du groupe de recherche sur l'IA de l'Université de Californie à Berkeley, a déclaré que des systèmes comme GPT-4 étaient en effet puissants, mais il n'était pas clair que le texte généré par ces systèmes était le résultat de quelque chose. ressemblant au raisonnement humain ou au bon sens.
« Quand on voit un système ou une machine compliquée, on l'anthropomorphise ; tout le monde le fait, à la fois ceux qui travaillent dans ce domaine et ceux qui ne le font pas », a expliqué Gopnik. " Mais y penser comme une comparaison constante entre l'IA et les humains - comme une sorte de compétition - n'est pas la bonne façon d'y penser . "
© Le New York Times 2023