Le nouveau PDG par intérim d'OpenAI, Emmett Shear , a également exprimé son inquiétude face à un scénario catastrophique potentiel dans lequel l'intelligence artificielle (IA) pourrait s'améliorer de manière incontrôlable et sans intervention humaine, au point de représenter une menace réelle pour l'existence de l'humanité.
Shear, qui s’est autoproclamé « techno-optimiste », prévient que même si le progrès technologique apporte principalement des avantages, la possibilité que l’IA évolue vers une amélioration autonome représente un danger intrinsèque.
En fait, la probabilité que cela se produise se situe entre 5 et 50 % , même si l’on reconnaît qu’il existe encore une incertitude dans ces estimations. La menace évoquée est si grave qu’elle pourrait être comparable à une « bombe destructrice de l’univers ».
Ces déclarations ont été faites lors d'un entretien en juin avec l'investisseur Logan Bartlett , dans lequel Shear a averti que "ce type de renseignement est quelque chose de très dangereux en soi", "parce que le renseignement, c'est le pouvoir ", a-t-il conclu.
L’IA auto-améliorée : une potentielle « bombe » technologique
L'inquiétude de Shear, résultat de sa vision optimiste du progrès technologique, réside dans la peur de ce dont serait capable une IA dotée de capacités supérieures dans tous les domaines de la connaissance et de la création.
Il a comparé cette éventualité à la facilité de créer des « bombes à fusion » extrêmement destructrices avec des matériaux simples et courants. Ce scénario est aggravé par la vitesse exponentielle à laquelle l’intelligence artificielle pourrait boucler la boucle d’auto-amélioration , la rendant effectivement impossible à contrôler.
« Cette boucle se refermera de plus en plus, et de plus en plus vite, jusqu'à ce qu'elle puisse s'améliorer complètement. À ce stade, ce sera très rapide», a déclaré Shear.
L’impact de l’IA sur la société, une préoccupation partagée
Le fondateur et ancien PDG d'OpenAI, Sam Altman, partage les mêmes préoccupations que son successeur, ayant déjà mis en garde contre la capacité de l'intelligence artificielle à supprimer un large éventail d'emplois.
Altman a même déclaré que les outils d’IA pourraient être « potentiellement terrifiants ». Ces alarmes ont contribué à la rédaction d'une lettre signée collectivement par l'homme d'affaires et les experts, demandant que la prévention d'un risque d'extinction induit par cette technologie soit considérée comme une priorité .
"Atténuer le risque d'extinction de l'IA devrait être une priorité mondiale, au même titre que d'autres risques sociétaux tels que les pandémies et la guerre nucléaire", ont-ils affirmé.
Shear et son rôle dans l'IA et Twitch
Emmett Shear, cofondateur de la plateforme de streaming Twitch , a été nommé PDG par intérim à la suite du limogeage surprise d'Altman, que le conseil d'administration d'OpenAI accusait de ne pas avoir été "systématiquement véridique dans ses communications", sans donner plus de détails.
Shear, interrogé sur la mise en œuvre de règles pour cette technologie émergente, estime que même s'il est prématuré d'envisager une réglementation détaillée étant donné l'évolution rapide du secteur, des dispositions réglementaires efficaces pourraient être nécessaires à l'avenir.
Cela se produit dans un contexte où l'entreprise continue d'être un protagoniste dans la conversation mondiale sur l'avenir de l'IA et de ses applications, comme le modèle génératif ChatGPT et la plateforme Dall-E , tous deux développés sous la direction d'Altman.
La nouvelle direction a déjà une tâche
Même si les détails exacts qui ont conduit au licenciement d'Altman restent flous, tout indique une tension entre une vision accélérationniste pour Altman et un conseil d'administration enclin à une approche plus prudente.
En fait, l'annonce de la nomination d'Emmett Shear (cofondateur de Twitch) au poste de PDG par intérim d'OpenAI s'est accompagnée d'un engagement à enquêter de manière indépendante sur les circonstances qui ont conduit au licenciement d'Altman.
Shear a déjà reconnu que la gestion du licenciement avait gravement porté atteinte à la réputation de l'entreprise et anticipait des changements importants à l'horizon.