Programmeur.chprogrammeur.ch
  • Intelligence artificielle

Au cœur de la crise pour l’avenir de l’intelligence artificielle chez OpenAI

Publié le 11.12.2023
infobae

SAN FRANCISCO — Le 17 novembre vers midi, Sam Altman, PDG d'OpenAI, s'est connecté à un appel vidéo depuis un hôtel de luxe de Las Vegas. Il était en ville pour la course inaugurale de Formule 1, qui avait attiré 315 000 visiteurs, dont Rihanna et Kylie Minogue.

Altman, qui avait porté le succès du chatbot ChatGPT d'OpenAI au rang de célébrité personnelle au-delà du monde de la technologie, avait prévu ce jour-là une réunion avec Ilya Sutskever, scientifique en chef de la startup d'intelligence artificielle. Cependant, au début de l'appel, Altman a vu que Sutskever n'était pas seul : il était pratiquement flanqué des trois membres indépendants du conseil d'administration d'OpenAI.

Instantanément, Altman comprit que quelque chose n'allait pas.

À l'insu d'Altman, Sutskever et les trois membres du conseil chuchotaient dans son dos depuis des mois. Ils pensaient qu’Altman avait été malhonnête et qu’il ne devait pas continuer à diriger une entreprise qui menait la course à l’intelligence artificielle. L'après-midi précédent, lors d'un appel téléphonique, les membres du conseil d'administration ont voté un par un en faveur du départ d'Altman d'OpenAI.

Maintenant, ils lui annonçaient la nouvelle. Choqué par son licenciement d'une startup qu'il avait aidé à fonder, Altman a demandé : « Comment puis-je aider ? Les membres du Conseil l'ont exhorté à soutenir un PDG par intérim. Il leur a assuré qu'il le ferait.

En quelques heures, Altman a changé d’avis et a déclaré la guerre au conseil d’administration d’OpenAI.

Son licenciement était le point culminant d’années de tensions latentes au sein d’OpenAI, qui opposaient ceux alarmés par le pouvoir de l’IA à d’autres qui voyaient dans la technologie une opportunité unique de profit et de prestige. À mesure que les divisions s’approfondissaient, les dirigeants de l’organisation se sont retournés les uns contre les autres. Cela a donné lieu à une bagarre dans la salle de réunion qui a fini par montrer qui a le dessus dans le développement futur de l’IA : l’élite technologique de la Silicon Valley et les grands intérêts économiques.

Le drame a englouti Microsoft, qui avait engagé 13 milliards de dollars dans OpenAI et est intervenu pour protéger son investissement. De nombreux dirigeants et investisseurs de la Silicon Valley se sont également rassemblés pour soutenir Altman.

Certains se sont défendus depuis le manoir d'Altman à San Francisco, d'une valeur de 27 millions de dollars, en faisant du lobbying via les réseaux sociaux et en exprimant leur mécontentement dans des messages texte privés, selon des entretiens avec plus de 25 personnes au courant des événements.

Au centre de la tempête se trouvait Altman, un milliardaire de 38 ans.

Un mélange incendiaire

Dès sa création en 2015, OpenAI était prêt à prendre feu.

Le laboratoire de San Francisco a été fondé par Elon Musk, Altman, Sutskever et neuf autres personnes. Leur objectif était de construire des systèmes d’IA au bénéfice de toute l’humanité. Contrairement à la plupart des startups technologiques, elle a été créée comme une organisation à but non lucratif avec un conseil d'administration chargé d'assurer l'accomplissement de sa mission.

Le conseil était composé de personnes ayant des philosophies opposées sur l’IA. D’un côté se trouvaient ceux qui s’inquiétaient des dangers de l’IA, y compris Musk, qui a quitté OpenAI avec colère en 2018. De l’autre côté se trouvaient Altman et ceux qui se concentraient davantage sur les avantages potentiels de la technologie.

En 2019, Altman – qui avait de nombreux contacts dans la Silicon Valley en tant que président de l'incubateur de startups Y Combinator – est devenu PDG d'OpenAI. Il ne détiendrait qu’une petite participation dans la startup.

Plus tôt cette année, les départs ont réduit le conseil d'administration d'OpenAI de neuf à six personnes. Trois d'entre eux (Altman, Sutskever et Greg Brockman, président d'OpenAI) sont les fondateurs du laboratoire.

Helen Toner, directrice de la stratégie au Centre pour la sécurité et les technologies émergentes de l'Université de Georgetown, faisait partie de la communauté des altruistes efficaces qui croient que l'IA pourrait un jour détruire l'humanité. Adam D'Angelo travaillait avec l'IA depuis un certain temps en tant que PDG du site de questions et réponses Quora. Tasha McCauley, scientifique associée chez Rand Corp., a travaillé sur les questions de politique et de gouvernance en matière de technologie et d'IA et a enseigné à la Singularity University, du nom du moment où les machines ne peuvent plus être contrôlées par leurs créateurs.

Ils étaient unis par la crainte que l’IA puisse devenir plus intelligente que les humains.

Les tensions montent

Après qu'OpenAI ait introduit ChatGPT l'année dernière, le conseil est devenu plus agité.

Alors que des millions de personnes utilisaient le chatbot pour écrire des lettres d'amour et échanger des idées sur les dissertations de fin d'études, Altman a volé la vedette. Il est apparu avec Satya Nadella, PDG de Microsoft, lors d'événements technologiques.

Cependant, à mesure qu'Altman rehaussait le profil d'OpenAI, certains membres du conseil craignaient que le succès de ChatGPT n'aille à l'encontre de la création d'une IA sûre, selon deux personnes familières avec leur réflexion.

Leurs inquiétudes se sont aggravées lorsqu'ils se sont affrontés avec Altman ces derniers mois pour savoir qui devrait occuper les trois sièges vacants du conseil.

En septembre, Altman a rencontré des investisseurs au Moyen-Orient pour discuter d'un projet de puce IA. Le conseil s'inquiétait du fait qu'il ne partageait pas tous ses projets avec eux, ont déclaré trois personnes proches du dossier.

Qu'a fait Sam ?

Lorsque la nouvelle du licenciement d'Altman a été révélée le 17 novembre, un message texte a atterri dans un groupe WhatsApp privé de plus d'une centaine de PDG d'entreprises de la Silicon Valley, dont Mark Zuckerberg et Drew Houston de Meta, de Dropbox.

"Sam est sorti", disait le message.

Le fil de discussion a immédiatement éclaté de questions : qu'a fait Sam ?

Cette même question a été posée chez Microsoft, le plus grand investisseur d'OpenAI. Alors qu'Altman était licencié, Kevin Scott, CTO de Microsoft, a reçu un appel de Mira Murati, CTO d'OpenAI. Il lui a dit que dans quelques minutes, le conseil d'administration d'OpenAI annoncerait qu'il avait licencié Altman et qu'elle était PDG par intérim.

Scott a immédiatement demandé à quelqu'un au siège de Microsoft à Redmond, dans l'État de Washington, de retirer Nadella d'une réunion qu'il tenait avec de hauts dirigeants. Surpris, Nadella a appelé Murati pour lui expliquer les raisons des conseils d'OpenAI, ont déclaré trois personnes au courant de l'appel. Dans un communiqué, le conseil d'administration d'OpenAI a simplement déclaré qu'Altman "n'était pas toujours honnête dans ses communications" avec le conseil d'administration. Murati n'avait pas de réponses.

Nadella a ensuite téléphoné à D'Angelo, le principal directeur indépendant d'OpenAI. Qu'aurait pu faire Altman, a demandé Nadella, pour amener le conseil à agir si brusquement. Avais-je fait quelque chose d'inacceptable ?

"Non", a répondu D'Angelo, de manière générale. Nadella était toujours confuse.

Inverser les rôles

Peu de temps après le licenciement d'Altman d'OpenAI, un ami l'a contacté. Il s'agissait de Brian Chesky, PDG d'Airbnb.

Chesky a demandé à Altman ce qu'il pouvait faire pour l'aider. Altman a dit qu'il voulait parler.

Lorsqu'ils se sont entretenus le 17 novembre, Chesky a posé une série de questions à Altman sur les raisons pour lesquelles le conseil d'administration d'OpenAI l'avait licencié. Altman a déclaré qu’il avait autant de doutes que tout le monde.

Dans le même temps, les employés d’OpenAI ont demandé des détails. Cet après-midi-là, le conseil d'administration a téléphoné pour s'entretenir avec près d'une quinzaine de dirigeants d'OpenAI, rassemblés dans une salle de conférence des bureaux de l'entreprise à San Francisco.

Les membres ont déclaré qu'Altman avait menti au conseil, mais ils n'ont pas pu fournir plus de détails pour des raisons juridiques.

Jason Kwon, directeur de la stratégie chez OpenAI, a accusé le conseil d'administration de violer ses responsabilités fiduciaires. "Votre devoir n'est pas de laisser l'entreprise mourir", a-t-il déclaré, selon deux personnes au courant de la réunion.

Toner a répondu : "La destruction de l'entreprise pourrait être conforme à la mission du conseil d'administration."

Les dirigeants d’OpenAI ont insisté pour que le conseil d’administration démissionne ce soir-là, sinon ils partiraient tous.

Ce soutien a fourni à Altman de nouvelles armes. Il a envisagé de créer une nouvelle startup, mais Chesky et Ron Conway, investisseur et ami de la Silicon Valley, l'ont encouragé à réfléchir à nouveau.

Altman a décidé de reprendre ce qu'il considérait comme sien.

Même lorsque le conseil envisagea de ramener Altman, il voulut faire des concessions. Cela incluait l'ajout de nouveaux membres capables de contrôler Altman. Le conseil d'administration a encouragé l'arrivée de Bret Taylor, ancien président de Twitter. Par mesure de sauvegarde, le conseil d'administration a également recherché un autre PDG par intérim au cas où les négociations avec Altman échoueraient.

Sortir du bourbier

Le 20 novembre à 4 h 30, D'Angelo s'est réveillé avec un appel téléphonique d'un employé effrayé d'OpenAI. Si D'Angelo ne quittait pas le conseil d'administration, l'entreprise ferait faillite.

Au cours des dernières heures, D'Angelo s'est rendu compte que les choses avaient empiré.

Juste avant minuit, Nadella avait posté sur X qu'il embauchait Altman et Brockman pour diriger un laboratoire chez Microsoft. Ce matin-là, plus de 700 des 770 employés d'OpenAI avaient également signé une lettre disant qu'ils pouvaient partir avec Altman pour Microsoft à moins que le conseil d'administration ne démissionne.

Un nom ressortait dans la lettre : Sutskever, qui avait changé de camp.

La viabilité d'OpenAI était remise en question. Les membres du Conseil n'avaient d'autre choix que de négocier.

Pour sortir du pétrin, D'Angelo et Altman se sont parlé le lendemain. D'Angelo a suggéré l'ancien secrétaire au Trésor Lawrence Summers, professeur à Harvard, pour siéger au conseil d'administration. Altman a aimé l'idée.

Summers s'est entretenu avec D'Angelo, Altman, Nadella et d'autres. Chacun d’eux lui a demandé son avis sur l’IA et le management, tandis que lui lui a posé des questions sur le tumulte de l’OpenAI. Il a dit vouloir être sûr de pouvoir jouer le rôle d'intermédiaire.

L'ajout de Summers a poussé Altman à abandonner sa demande d'un siège au conseil d'administration et à accepter une enquête indépendante sur son leadership et son licenciement.

À la fin du 21 novembre, ils avaient trouvé un accord. Altman reviendrait en tant que PDG, mais pas au conseil d'administration. Summers, D'Angelo et Taylor seraient membres du conseil d'administration et Microsoft finirait par le rejoindre en tant qu'observateur sans droit de vote. Toner, McCauley et Sutskever quitteraient le conseil d'administration.

Cette semaine, Altman et certains de ses conseillers étaient encore en colère. Ils voulaient que leur nom soit innocenté.

"Avez-vous un plan B pour briser l'hypothèse selon laquelle vous allez être licencié ? Ce n'est ni sain ni vrai", a déclaré Conway à Altman dans un message texte.

Altman a déclaré qu'il travaillait avec le conseil d'administration d'OpenAI : "En fait, ils veulent qu'on n'en parle pas, mais je pense qu'il est important d'y remédier le plus tôt possible."

Divisés par le leadership de Sam Altman, les membres du conseil d'administration et les dirigeants d'OpenAI se sont retournés les uns contre les autres. Leur combat a révélé les fissures au cœur du mouvement de l’intelligence artificielle. (Hokyoung Kim/Le New York Times)

Divisés par le leadership de Sam Altman, les membres du conseil d'administration et les dirigeants d'OpenAI se sont retournés les uns contre les autres. Leur combat a révélé les fissures au cœur du mouvement de l’intelligence artificielle. (Hokyoung Kim/Le New York Times)

Lisez aussi

foxconn-annonce-que-lusine-pour-les-superpuces-de-nvidia-est-en-construction-au-mexique
Foxconn annonce que l'usine pour les superpuces de Nvidia est en construction au Mexique.

08.10.2024

taiwan-bat-son-record-dexportations-au-troisieme-trimestre-grace-a-lessor-de-lia
Taïwan bat son record d'exportations au troisième trimestre grâce à l'essor de l'IA.

08.10.2024

le-prix-nobel-de-physique-va-a-hopfield-et-hinton-pour-avoir-contribue-a-lapprentissage-des-machines
Le prix Nobel de physique va à Hopfield et Hinton pour avoir contribué à l'apprentissage des machines.

08.10.2024

© 2025 programmeur.ch - Mentions légales

Abonnez-vous !

Recevez les actualités sur l'intelligence artificielle en avant première.