L'informaticien de Google Geoffrey Hinton , qui a apporté une contribution significative au développement de l'intelligence artificielle, a quitté le géant de la technologie pour avertir le monde du " risque existentiel " que les systèmes d'IA font peser sur les humains.
Le scientifique anglo-canadien de 75 ans a écrit sur Twitter qu'il démissionnait " afin qu'il puisse parler des dangers de l'IA sans considérer comment cela affecte Google ".
Dans une interview avec la BBC , il a déclaré qu'il ne pensait pas que les systèmes d'IA soient encore aussi intelligents que les humains. " Mais je pense qu'ils pourraient bientôt l'être ", a-t-il déclaré. Hinton a cité ce risque pour expliquer sa démission de Google lundi après 10 ans avec le géant de la technologie. Il a dit qu'il voulait pouvoir parler librement des risques posés par l'IA - mais a souligné sa conviction que l'entreprise " a agi de manière très responsable ".
« Je suis arrivé à la conclusion que le type de renseignement que nous développons est très différent du renseignement que nous avons », a-t-il déclaré à la chaîne britannique.
" La grande différence est qu'avec les systèmes numériques, vous avez de nombreuses copies du même ensemble de poids, le même modèle du monde ", a déclaré Hinton . « Tous ces exemplaires peuvent apprendre séparément, mais ils partagent leurs connaissances instantanément. C'est comme s'il y avait 10 000 personnes et chaque fois qu'on apprend quelque chose, tout le monde le sait automatiquement. Et c'est ainsi que ces chatbots peuvent connaître bien plus qu'une seule personne .
En particulier, il a mis en garde contre la possibilité que la technologie de l'IA soit manipulée par des acteurs malveillants - tels que des dirigeants autoritaires - pour l'utiliser à des fins nuisibles. Si un système devait atteindre la capacité de créer ses propres « sous-objectifs », par exemple, il pourrait décider de lui-même de commencer à rechercher le pouvoir. Ce résultat serait " un scénario cauchemardesque ", a-t-il dit.
Il a également déclaré que les progrès de l'IA dans le texte pourraient conduire à des « spambots très efficaces », qui pourraient permettre aux « dirigeants autoritaires de manipuler leurs circonscriptions ».
Après avoir rejoint Google en 2013, l'informaticien a conçu des algorithmes d'apprentissage automatique et a finalement été promu vice-président. Selon son profil Google , Hinton a contribué à « des avancées majeures dans l'apprentissage en profondeur qui ont révolutionné la reconnaissance vocale et la classification des objets ».
Dans une autre interview, Hinton a déclaré au New York Times que la possibilité que l'IA dépasse l'intelligence humaine devenait une réalité plus rapidement qu'il ne l'avait prévu. « Je pensais qu'il leur manquait entre 30 et 50 ans, voire plus. Évidemment, je ne le pense plus », a-t-il déclaré. Il a fait appel à des scientifiques de premier plan pour aider à surveiller la technologie afin d'atténuer les risques potentiels. Cependant, il a également reconnu que, contrairement à ce qui se passe avec les armes nucléaires, il n'existe aucune norme internationale qui empêche ou pénalise l'utilisation secrète de l'IA par les gouvernements ou les entreprises.
Une autre préoccupation immédiate est le risque que de fausses images, vidéos et textes fassent en sorte que la plupart des gens « ne sachent plus ce qui est vrai ». Un exemple est apparu en mars, lorsqu'une image du pape François en blouse blanche est devenue virale, mais elle s'est avérée fausse. « Je me console avec l'excuse habituelle : si je ne l'avais pas fait, quelqu'un d'autre l'aurait fait », a-t-il déclaré au Times , faisant référence à son rôle clé dans le développement de la technologie de l'IA.
" Nous restons attachés à une approche responsable de l'IA ", a déclaré Jeff Dean , scientifique en chef de Google , dans un communiqué publié dans divers médias, en réponse à la démission et aux commentaires de Hinton . “ Nous apprenons continuellement à comprendre les risques émergents tout en innovant avec audace ”.
Google n'a pas immédiatement répondu à une demande de commentaire du Washington Post .
Plus tôt cette année, The Post a rapporté que la sortie de ChatGPT par OpenAI obligeait les géants de la technologie comme Meta et Google à agir plus rapidement pour lancer leurs propres produits d'IA. Depuis, d'autres se sont prononcés sur les risques potentiels de cette technologie.
Hinton , professeur émérite émérite de l' Université de Toronto , a obtenu son doctorat en intelligence artificielle de l' Université d'Édimbourg en 1978 et a commencé à travailler à temps partiel pour Google en 2013. En 2018, Hinton était l'un des trois informaticiens récompensés par le prestigieux prix Turing. Award -souvent appelé le prix Nobel de technologie- pour ses travaux sur l'intelligence artificielle.
(C) Le Washington Pos.-