Un pays peut-il rester indépendant si les États-Unis peuvent déconnecter l'intelligence artificielle qui soutient son économie et sa défense ? L'Europe dispose-t-elle d'une alternative ? Que se passe-t-il lorsque nous commençons à déléguer des décisions à des systèmes capables d'agir par eux-mêmes ? Et, surtout, les politiciens comprennent-ils la vitesse de cette transformation ?
Ces questions traversent l'intéressante interview que le diplomate et homme politique britannique Rory Stewart accorde à Yuval Noah Harari dans le podcast « The Rest Is Politics » (« Le reste est politique »). Historien, philosophe et écrivain, Harari est l'auteur de « Sapiens », un livre qui mérite d'être lu et relu. Son avertissement nous interpelle sur deux plans fondamentaux : la souveraineté des pays et notre capacité à conserver le contrôle sur l'intelligence artificielle que nous créons.
Comprendre une menace avant qu'il ne soit trop tard
Harari évoque sa réaction au début de la pandémie. En tant qu'historien, en voyant les images de Wuhan paralysée, il comprenait qu'une crise mondiale pouvait commencer. Mais émotionnellement, il résistait : cela lui semblait impossible que cela l'atteigne. Il décrit une barrière entre la tête et l'estomac. La raison reconnaît un danger, tandis que l'intuition le rejette parce qu'on n'a jamais vécu quelque chose de semblable. Avec l'IA, il craint que nous répétions cette même réaction.
Pour nous aider à mieux comprendre, il nous ramène au début de l'Âge moderne et fait une comparaison entre Moctezuma et Hernán Cortés qui suit cette logique. Selon Harari, les Azèques n'ont pas compris à temps la nature des envahisseurs espagnols, leurs technologies et les maladies qu'ils apportaient. Une menace qui semblait étrangère à leur monde les a finalement détruits, bien que leurs forces en nombre dépassent largement celles des colons.
La leçon qu'il laisse, en particulier pour les politiciens, est que, face à l'inconnu, continuer à débattre avec les catégories habituelles peut empêcher de reconnaître ce qui est en jeu et qu'il soit trop tard.
Harari qualifie d'impérialisme de l'IA une dépendance technologique qui peut se transformer en subordination politique. Il lance un avertissement. Si un autre État peut éteindre des systèmes indispensables à votre pays, tant en défense qu'en économie, votre liberté de décision est conditionnée.
Il évoque le cas de l'Europe subordonnée aux desseins des États-Unis sous leur impérialisme en IA.
Pour le cas du Royaume-Uni, plus spécifiquement, il propose trois options :
1. Accepter la dépendance américaine. Continuer comme jusqu'à présent et assumer une place subordonnée. L'illustre provocativement avec des exigences hypothétiques sur le Groenland ou les Malouines, où Londres pourrait être contraint d'accompagner des décisions américaines contraires à ses propres intérêts.
2. Construire une IA britannique propre. Harari mentionne un chiffre indicatif de 500 milliards de livres. Il soutient que financer un tel effort exigerait des décisions difficiles telles que des coupes dans la santé, l'éducation, l'aide sociale et les transports. Difficilement viable.
3. Partager l'effort avec l'Europe. Répartir l'investissement entre les pays permettrait d'affronter le défi à une plus grande échelle. Mais, dans son propos, cela nécessiterait une intégration européenne beaucoup plus profonde et le retour du Royaume-Uni au sein de l'Union européenne.
Harari estime que l'Europe peut encore agir unie. Il met en garde contre le fait que réguler sans développer ses propres capacités ne suffit pas. Stewart ajoute la possibilité de travailler avec des modèles ouverts, des données propres et une infrastructure sous contrôle européen ; Harari reconnaît cette alternative comme faisable, tout en notant qu'elle serait plus orientée vers la Chine.
Acteurs potentiels et une vitesse difficile à atteindre
La différence fondamentale, pour Harari, dans cette révolution technologique, par rapport à la révolution industrielle, est que l'IA peut fonctionner comme un agent : recevoir des objectifs, prendre des décisions et inventer des solutions. Un outil attend qu'on l'utilise ; un agent peut chercher comment accomplir une tâche.
C'est pourquoi il soulève le risque qu'une organisation terroriste charge une IA de développer une arme biologique. C'est un scénario potentiel qui montre le danger de mettre des capacités avancées au service d'objectifs destructeurs.
La vitesse aggrave le défi. Stewart décrit l'attente des entreprises de disposer de millions d'équivalents ingénieurs travaillant en permanence. Les systèmes automatisés n'ont pas besoin de repos ni de vacances : ils peuvent continuer à traiter et exécuter des tâches 24 heures sur 24. Harari ajoute le risque qu'une IA développe des générations suivantes d'IA, accélérant encore davantage le processus.
L'avertissement pour la politique
Les gouvernements doivent comprendre cette transformation, expliquer les alternatives et prennent des décisions tandis qu'il existe encore une marge de manœuvre. L'incertitude exige la préparation.
Les deux dangers distincts : que les pays perdent leur autonomie face aux puissances technologiques et que les êtres humains perdent la capacité de comprendre et de contrôler les systèmes qu'ils ont eux-mêmes créés.
Si les politiques ne s'engagent pas à comprendre une technologie qui avance sans relâche, ils courent le risque qu'il soit trop tard, face à quoi tout peut arriver, jusqu'à ce qui semblerait aujourd'hui de la science-fiction, comme l'a été la pandémie à son époque.