Programmeur.chprogrammeur.ch
  • Intelligence artificielle

OpenAI a dissous son équipe dédiée à l'atténuation des risques de l'intelligence artificielle en moins d'un an

Publié le 18.05.2024
Lors du lancement de son IA la plus avancée, GPT-4o, OpenAI a dissous son équipe travaillant sur la sécurité et l'alignement de l'IA (GETTY)

La dissolution de l'équipe Superalignment est intervenue quelques jours après que ses dirigeants, Sutskever et Leike , ont annoncé leur démission sur les réseaux sociaux. Dans sa déclaration, Sutskever s'est dit convaincu que « OpenAI construira AGI de manière sûre et bénéfique » sous la direction actuelle. Il a ajouté qu'il était enthousiasmé par un nouveau projet qu'il considère comme « personnellement important », même s'il n'a pas donné plus de détails à ce sujet.

Leike, pour sa part, a expliqué dans Il a noté que son équipe s'était battue pour obtenir des ressources informatiques essentielles à ses recherches, ce qui rendait de plus en plus difficile l'accomplissement de sa mission.

Comme l'explique CNBC , l'équipe Superalignment a été chargée de résoudre les défis techniques fondamentaux de l'alignement de la superintelligence en quatre ans, en utilisant 20 % de la puissance de calcul d' OpenAI . Les risques abordés comprenaient l’utilisation abusive de la technologie, les perturbations économiques, la désinformation, les préjugés et la discrimination, la dépendance et la dépendance excessive.

Suite à des démissions et à la dissolution de l'équipe, certains membres ont été réaffectés à d'autres équipes au sein d' OpenAI . NBC News a confirmé ces déménagements via une source anonyme. Cependant, lorsque l'entreprise a été contactée pour commentaires, elle a seulement recommandé le récent message de Sam Altman sur X , dans lequel il a exprimé sa tristesse face au départ de Leike et a noté que l'entreprise avait encore du travail à faire.

Sutskever est convaincu qu'OpenAI créera une AGI sûre et bénéfique (REUTERS/Amir Cohen)

Le départ de Sutskever et Leike n'est pas sans rappeler la crise de leadership qu'OpenAI a connue en novembre dernier, lorsque le conseil d'administration de l'entreprise a évincé Altman , déclenchant une réaction en chaîne qui comprenait des démissions et des menaces de démission de la part d'employés et d'investisseurs, dont Microsoft .

Sutskever, qui a joué un rôle clé dans l'éviction d'Altman, a ensuite exprimé ses regrets pour sa participation à cet événement.

Bien qu'il soit resté chez OpenAI en tant que scientifique senior, il n'occupe plus de poste au conseil d'administration. Après son départ annoncé, Altman a commenté sur X : « C'est très triste pour moi ; "Ilya est sans conteste l'un des esprits les plus brillants de notre génération, un guide dans notre domaine et un ami cher." En outre, le PDG a nommé Jakub Pachocki pour lui succéder au poste de scientifique en chef.

Business Insider a souligné que la nouvelle du démantèlement de l'équipe Superalignment et des démissions de Sutskever et Leike coïncidait avec le lancement de nouveaux produits par OpenAI . La société a introduit une mise à jour du modèle GPT-4 et une version de bureau de ChatGPT , avec une interface utilisateur améliorée et de nouvelles fonctionnalités de chat vidéo.

Lisez aussi

foxconn-annonce-que-lusine-pour-les-superpuces-de-nvidia-est-en-construction-au-mexique
Foxconn annonce que l'usine pour les superpuces de Nvidia est en construction au Mexique.

08.10.2024

taiwan-bat-son-record-dexportations-au-troisieme-trimestre-grace-a-lessor-de-lia
Taïwan bat son record d'exportations au troisième trimestre grâce à l'essor de l'IA.

08.10.2024

le-prix-nobel-de-physique-va-a-hopfield-et-hinton-pour-avoir-contribue-a-lapprentissage-des-machines
Le prix Nobel de physique va à Hopfield et Hinton pour avoir contribué à l'apprentissage des machines.

08.10.2024

© 2025 programmeur.ch - Mentions légales

Abonnez-vous !

Recevez les actualités sur l'intelligence artificielle en avant première.