L' ordinateur est né pendant la guerre et à cause de la guerre. Colossus a été construit en 1944 pour déchiffrer les codes nazis. Dans les années 1950, les ordinateurs organisaient la défense aérienne des États-Unis . Dans les décennies qui ont suivi, l’intelligence artificielle a joué un petit rôle dans la guerre. Il est désormais en passe de devenir incontournable. Tout comme le monde civil assiste à des progrès rapides en matière de puissance et de diffusion de l’intelligence artificielle (IA), le monde militaire doit également se préparer à une avalanche d’innovations. Autant cela transforme le caractère de la guerre, autant cela pourrait s’avérer déstabilisateur.
Le changement rapide actuel a plusieurs causes. L’un d’entre eux est le creuset de la guerre elle-même, notamment en Ukraine . De petites puces peu coûteuses guident régulièrement les drones russes et ukrainiens vers leurs cibles, élargissant ainsi une technologie autrefois limitée aux missiles d'une superpuissance. Le deuxième est le récent progrès exponentiel de l’IA, qui permet des prouesses étonnantes en matière de reconnaissance d’objets et de résolution de problèmes d’ordre supérieur. Un troisième est la rivalité entre les États-Unis et la Chine , dans laquelle tous deux considèrent l’IA comme la clé de la supériorité militaire.
Les résultats sont les plus visibles dans le développement des machines à tuer intelligentes . Les drones aériens et navals ont joué un rôle vital pour les deux parties en Ukraine dans la détection et l’attaque de cibles. Le rôle de l'intelligence artificielle est la solution aux interférences , car elle permet à un drone de localiser des cibles, même si les signaux GPS ou la liaison avec le pilote ont été coupés. La rupture du lien entre pilote et avion devrait bientôt permettre aux militaires de déployer un nombre beaucoup plus important de munitions à faible coût. Au fil du temps, des essaims autogérés seront conçus pour submerger les défenses.
Mais la partie la plus visible de l’IA militaire n’est pas la chose la plus importante. Comme l’explique notre rapport, la technologie révolutionne également le commandement et le contrôle que les officiers militaires utilisent pour orchestrer les guerres.
En première ligne, les drones ne représentent que le dernier et le plus dramatique maillon de la chaîne de destruction, la série d’étapes qui commencent par la recherche d’une cible et se terminent par une attaque. L’importance la plus profonde de l’IA réside dans ce qu’elle peut faire avant les attaques de drones. Parce qu'il trie et traite les données à une vitesse surhumaine, il peut sélectionner chaque char parmi des milliers d' images satellite ou interpréter la lumière, la chaleur, le son et les ondes radio pour distinguer les leurres des vrais.
Loin des lignes de front, il peut résoudre des problèmes bien plus importants que ceux rencontrés par un seul drone. Aujourd’hui, cela signifie des tâches simples, comme déterminer quelle arme est la mieux adaptée pour détruire une menace. À terme, les « systèmes d’aide à la décision » seront capables de comprendre rapidement l’étonnante complexité de la guerre sur une vaste zone, peut-être sur l’ensemble d’un champ de bataille.
Les conséquences de cette situation commencent tout juste à se préciser. Les systèmes d’intelligence artificielle , ainsi que les robots autonomes sur terre, sur mer et dans les airs, sont susceptibles de trouver et de détruire des cibles à une vitesse sans précédent et à grande échelle.
La rapidité de ce type de guerre va modifier l’équilibre entre le soldat et le logiciel. Aujourd’hui, les armées tiennent un homme « au courant », approuvant chaque décision mortelle. Comme la recherche et l’attaque de cibles se réduisent à quelques minutes ou secondes, les humains pourront simplement « rester dans la boucle » au sein d’une équipe homme-machine. Les gens surveilleront le système sans intervenir dans chaque action.
Le paradoxe est que même si l’IA donne une image plus claire du champ de bataille, la guerre risque de devenir plus opaque pour ceux qui la combattent. Nous aurons moins de temps pour nous arrêter et réfléchir. À mesure que les modèles véhiculent des jugements de plus en plus oraculaires, leur production deviendra de plus en plus difficile à examiner sans donner à l’ennemi un avantage mortel. Les armées craindront que si elles ne donnent pas plus de contrôle à leurs conseillers en IA, elles seront vaincues par un adversaire qui le fera. Des combats plus rapides et moins de pauses rendront plus difficile la négociation de trêves ou l’arrêt de l’escalade. Cela peut favoriser les défenseurs, qui peuvent s'accroupir pendant que les attaquants brisent leur couverture à mesure qu'ils avancent. Ou encore, cela pourrait inciter les attaquants à frapper de manière préventive et avec une force massive, pour détruire les capteurs et les réseaux dont dépendront les armées équipées de l’IA.
L’ampleur de la guerre basée sur l’IA signifie que le poids industriel massif deviendra probablement encore plus important qu’il ne l’est aujourd’hui. On pourrait penser que les nouvelles technologies permettront aux armées de devenir plus agiles. Mais si les logiciels peuvent sélectionner des dizaines de milliers de cibles, les armées auront besoin de dizaines de milliers d’armes pour les attaquer. Et si le défenseur a l’avantage, les attaquants auront besoin de plus d’armes pour percer.
Ce n’est pas la seule raison pour laquelle la guerre par l’IA favorise les grands pays. Les drones pourraient devenir moins chers, mais les systèmes numériques qui interconnectent le champ de bataille seront très coûteux. Construire des armées basées sur l’IA nécessitera d’énormes investissements dans des serveurs cloud capables de gérer des données secrètes. Il faudra intégrer les armées, les marines et les forces aériennes qui existent aujourd’hui dans leurs propres silos de données. La formation des modèles nécessitera l’accès à de grandes quantités de données.
Quel grand pays l’IA favorise-t-elle le plus ? On pensait autrefois que la Chine avait un avantage, grâce à ses données, à son contrôle sur l’industrie privée et à ses restrictions éthiques plus souples. Cependant, les États-Unis semblent désormais être à l’avant-garde des modèles pionniers susceptibles de façonner la prochaine génération d’intelligence artificielle militaire. Et l’idéologie compte : il n’est pas clair si les armées des États autoritaires, qui valorisent le contrôle centralisé, seront capables d’exploiter les avantages d’une technologie qui amène le renseignement et la connaissance aux niveaux tactiques les plus bas.
Si la première guerre déclenchée par l’IA éclate tragiquement, le droit international risque de passer au second plan. Raison de plus pour réfléchir aujourd’hui à la manière de limiter les destructions. La Chine devrait, par exemple, tenir compte de l’appel des États-Unis à exclure tout contrôle de l’IA sur les armes nucléaires . Et une fois qu’une guerre éclatera, les lignes d’assistance téléphonique entre les peuples seront plus importantes que jamais. Les systèmes d’IA visant à maximiser l’avantage militaire devront être codés avec des valeurs et des contraintes que les commandants humains tiennent pour acquis. Il s’agit notamment d’accorder une valeur implicite à la vie humaine (combien de civils est-il acceptable de tuer à la poursuite d’une cible de grande valeur ?) et d’empêcher certaines attaques déstabilisatrices, telles que les satellites d’alerte nucléaire.
Les incertitudes sont profondes. La seule chose qui est sûre, c’est que le changement induit par l’IA est à venir. Les armées qui anticiperont et maîtriseront les avancées technologiques le plus rapidement et le plus efficacement possible auront probablement le dessus. Tout le monde est susceptible d’en être la victime.
© 2024, Journal The Economist Limité. Tous droits réservés
Nouveau