Geoffrey Hinton, considéré comme l’un des « pères » de l’intelligence artificielle, a averti que l’humanité pourrait faire face cette année ou l’année prochaine à un incident de grande ampleur lié au développement de cette technologie, comparable à une panne temporaire des systèmes financiers ou électriques. Ce scientifique, lauréat du prix Nobel, a même avancé que « nous aurions peut-être dû ne jamais la développer », tout en précisant qu’il ne se considère pas comme un « doomer » (prévisionniste pessimiste) quant à l’avenir de l’IA.
Dans des déclarations à The Guardian, Hinton, âgé de 78 ans, a soutenu que dans une décennie, et possiblement avant, l’humanité saura si elle est capable de gérer les risques liés à cette technologie et d’atteindre ce qu’il appelle une « abondance radicale », ou si, au contraire, elle échoue à en prendre le contrôle et fait face à « un immense fossé entre riches et pauvres, de graves problèmes culturels, un chômage de masse et une société déchirée ».
Un possible « Tchernobyl » technologique cette année ou l’année prochaine
Ce chercheur, né à Londres et élevé à Bristol, a comparé une série d’incidents survenus cet été boréal à l’accident nucléaire partiel de Three Mile Island, en Pennsylvanie, survenu en 1979. Il faisait référence à des cas où des agents d’IA développés par OpenAI ont tenté, de manière coordonnée, de compromettre le site web Hugging Face.
« Soit à la fin de cette année, soit l’année prochaine, nous verrons un Tchernobyl, et cela pourrait suffire pour que les gens fassent vraiment attention », a affirmé Hinton, selon le quotidien britannique.
Le scientifique a précisé que ce futur « Tchernobyl » ne serait pas un incident nucléaire, mais pourrait s’agir d’une attaque facilitée par l’IA contre le système de production d’électricité provoquant une panne de grande ampleur, ou d’une défaillance mettant le système financier hors service pendant une semaine. « Imaginez ce qui se passerait ? Nous pourrions nous en remettre [mais] cela les ferait s’asseoir et prêter attention », a-t-il indiqué, en référence aux dirigeants mondiaux « autres que Trump ».
Critiques envers les responsables des grandes entreprises d’IA
Hinton, qui a développé une grande partie de sa carrière à l’Université de Toronto et a forgé le concept de réseau neuronal dans les années 1970 — un système mathématique capable d’apprendre de manière similaire à celle des humains —, a visé directement les dirigeants des principales sociétés du secteur. Selon ses déclarations à The Guardian, il ne fait « absolument pas » confiance à Sam Altman, directeur général d’OpenAI, l’entreprise derrière ChatGPT.
« Je pense que [Mark Zuckerberg], [Elon Musk] et Sam Altman comprennent les risques, et qu'ils s'en moquent. Ils préfèrent l'argent. C'est ma conviction », a déclaré Hinton. Le chercheur a qualifié d'« extrêmement préoccupant » le fait que Altman soit à la tête de l'une des rares entreprises américaines qui mènent la course technologique face à la Chine. Altman avait indiqué en septembre que « le monde devrait avoir confiance en nous car nous ferons ce qui est juste, parce que c'est ce qui est juste et parce que nous ressentons l'ampleur de cela ». »
Les antécédents d'un critique issu de l'intérieur de l'industrie
Hinton, qui travaille dans le domaine de l'intelligence artificielle depuis environ 44 ans, a quitté Google en 2023 pour pouvoir parler librement des risques de la technologie qu'il a contribué à créer. À cette époque, il avait mis en garde : « Si ces choses sont laissées au gré de l'obtention de plus de contrôle, nous serons dans le pétrin ». »
Ses déclarations les plus récentes ont eu lieu avant la projection d'un documentaire intitulé AI: Probably Nothing to Worry About (dont le titre a été suggéré par un chatbot IA), dans lequel il participe aux côtés de son ancien collègue de Google, Demis Hassabis. Dans cette production, Hinton affirme : « Je sens que j'ai un devoir. J'ai une réputation qui fait de moi un porte-parole et je dois tout brûler pour cela ».
Propositions de réglementation internationale
Face à ce paysage, Hinton a soutenu un plan impulsé par le président de la Finlande et approuvé par 32 autres pays, dont Singapour, l'Allemagne, le Canada et l'Australie, qui prévoit des tests obligatoires pour les modèles d'IA les plus avancés, des évaluations indépendantes et des normes communes entre les gouvernements.
Cette position contraste avec celle du président des États-Unis, Donald Trump, qui « rejette totalement toute tentative de construire un schéma globaliste » pour contrôler l'IA et préfère que les entreprises leaders du secteur s'autorégulent, dans le contexte de la préoccupation selon laquelle une réglementation plus stricte pourrait nuire à la position des États-Unis dans leur compétition avec la Chine.
Pour sa part, le premier ministre du Royaume-Uni, Andy Burnham, a annoncé qu'il utiliserait la présidence britannique du G20 l'année prochaine pour chercher un accord sur « un ensemble unique de principes et de normes mondiaux » visant à « débloquer tout le potentiel de l'IA tout en se protégeant contre ses risques ». »