En novembre 2023, le premier sommet mondial sur la sécurité de l'intelligence artificielle, tenu à Bletchley Park en Angleterre, a mis en lumière les menaces les plus graves imaginables posées par les modèles d'IA les plus puissants. Beaucoup estimaient alors qu'il s'agissait de science-fiction et que les risques réels étaient plus prosaïques, tels que la perte d'emplois ou la fraude aux examens.
Trois ans plus tard, Dario Amodei, directeur d'Anthropic, a exhorté samedi dernier à ralentir le rythme de développement de l'IA, et les dirigeants de deux entreprises rivales, Sam Altman d'OpenAI et Elon Musk, se sont montrés d'accord.
Cette prise de position s'ajoute à d'autres voix d'alerte au sein même du secteur. Le chercheur Jacob Coxon, qui a quitté Anthropic, a déclaré à la BBC que le personnel chargé de développer ces systèmes ressentait une « peur authentique » pour l'avenir de l'humanité. L'ensemble forme un chœur de voix sérieuses plaidant pour un ralentissement, bien que la proposition, loin d'être une solution simple, fasse face à des obstacles pratiques et géopolitiques considérables.
La course entre les États-Unis et la Chine
L'un des principaux freins à toute pause est la compétition géopolitique. Le président Donald Trump a affirmé que les États-Unis ont une avance sur la Chine dans la course à l'IA et a soutenu que « celui qui gagnera en IA sera le vainqueur ». La Chine, de son côté, ne montre aucune intention de se contenter de la deuxième place.
Le consensus parmi les observateurs du secteur est que, même si une entreprise décide de freiner son développement, les autres ne le feront pas, si bien que celui qui s'arrêtera simplement restera en retard. La dynamique rappelle le moment culminant de la campagne pour le désarmement nucléaire, lorsque le problème, comme aujourd'hui, était que personne ne voulait faire le premier pas.
S'y ajoute la question de qui superviserait un tel ralentissement et s'il serait viable de compter sur la transparence des entreprises d'IA quant à ce qu'elles font et, surtout, quant à ce qu'elles décident de ne pas faire.
Le plan en trois points d'Amodei suscite des doutes
Amodei a proposé dans sa publication un schéma en trois éléments : une supervision indépendante des modèles d'IA pendant leur développement, ainsi que des réglementations sectorielles et globales. Cependant, certains observateurs remettent en question son application pratique. « Personne n'a donné d'explication substantielle de ce que signifie "ralentissement" », affirme Ed Zitron, directeur général d'EZ Primary Research, cité par la chaîne britannique.
« Placer un infiltré de METR — où l'un de ceux qui ont quitté Anthropic a été recruté — dans chaque entreprise d'IA ? Une "coordination" démocratique et globale ? Pour moi, cela ne signifie rien », tranche-t-il.
Zitron avertit que l'arrêt de l'entraînement des modèles d'IA rendrait les entreprises vulnérables face à leurs rivaux chinois : « leurs produits resteraient figés dans le temps et seraient répliqués par des laboratoires chinois ». Selon lui, « cela pourrait faire éclater la bulle, mais pour l'instant, nous avons très peu d'informations sur ce qu'implique exactement un ralentissement ».
Le poids économique de l'IA complique tout frein
Au Royaume-Uni, l'IA est un élément clé de la stratégie de croissance économique : des plans ont été annoncés pour son déploiement à plus grande échelle au sein du NHS (Service national de santé) afin d'améliorer la prise en charge des patients, et la technologie a stimulé l'économie britannique pendant l'été. « Il n'y a pas de plan B », a commenté à la BBC un ancien conseiller gouvernemental.
Le secteur consomme d'énormes quantités d'argent et de ressources naturelles sans générer, à ce jour, de revenus équivalents. De nombreux rapports suggèrent que certaines entreprises ayant adopté la technologie sont déçues des résultats, et les économistes spéculent sur le fait que tous les géants actuels ne survivront pas à une éventuelle « normalisation » du secteur, c'est-à-dire à l'éclatement d'une bulle.
Celles qui parviendront à durer, cependant, pourraient devenir les mégacorporations les plus puissantes jamais connues, avec les problèmes que cela implique.
La décision d'OpenAI de freiner son introduction en bourse admet deux lectures : un geste de responsabilité envers la sécurité publique, ou la manœuvre d'une entreprise qui avertit qu'elle n'obtiendra pas les bénéfices attendus si son produit est perçu comme dangereux.
Alexander Voica, de l'entreprise britannique Synthesia, souligne que « personne ne peut prédire avec certitude comment cette technologie évoluera ». Et d'ajouter : « La seule chose qui m'inquiète à ce que nous nous pressions de réguler maintenant, alors qu'il reste beaucoup d'inconnues, c'est que la mesure puisse s'avérer contre-productive ».
La responsabilité incombe aux entreprises
Pour Sasha Luccioni, fondatrice du Sustainable AI Group, le problème ne réside pas dans les risques existentiels de l'IA mais dans « la cupidité corporative des entreprises qui la créent ». Dans le même sens, la scientifique de l'informatique Wendy Hall, qui a conseillé l'ONU sur l'IA, soutient que la crise actuelle est due au fait que les entreprises n'agissent pas avec la responsabilité requise.
Elle compare la situation à celle d'un éleveur dont le taureau s'échappe de l'enclos et cause des dégâts, et qui finit par blâmer l'animal : « la faute n'est pas au taureau, mais à l'éleveur », souligne-t-elle, en référence au fait que les barrières — les mécanismes de contrôle et de sécurité de l'IA — n'étaient pas assez solides.
Tout le monde ne partage pas l'idée que la réglementation stricte soit la solution. Parker Thayer, chercheur au Capital Research Centre, un centre d'études de tendance conservatrice, a exprimé cette semaine sur X qu'il existe un élan politique caché visant à « réguler l'IA jusqu'à la faire disparaître », une publication qui a accumulé près de huit millions de visualisations. Il s'agit d'une position extrême et non démontrée, mais qui met en évidence le manque de consensus sur la voie à suivre.
Quel que soit le dénouement, la controverse actuelle a déjà pu affecter la réputation des entreprises leaders du secteur. Comme le pose la professeure Hall : « Investiriez-vous dans une entreprise qui affirme qu'elle va provoquer l'extinction de l'humanité ? ».