C'est ainsi qu'il a écrit, avec l'entrepreneur et technologue argentin Santiago Bilinkis , sa nouvelle recherche : Artificiel. La nouvelle intelligence et le contour de l'humain . Dans ce livre, les auteurs font un voyage depuis les débuts de l'IA pendant la Seconde Guerre mondiale jusqu'aux propositions qui, compte tenu de l'essor que connaît aujourd'hui cette technologie, surgissent pour l'avenir.
« Le concept même d'« IA » vient de l'idée d'artifice, qui a deux significations très différentes (...) D'une part, « artificiel » fait référence à quelque chose qui n'est pas naturel. De ce point de vue, nous percevons l’IA comme étrange et menaçante . L'autre sens du terme « artificiel » est « qui a été fabriqué par des êtres humains », et c'est ce sens que nous avons tendance à oublier. Cette IA est essentiellement humaine . Il pourrait être autonome, se répliquer, se confronter à nous, avoir sa propre signification ontologique et être conscient, mais cela n’en fait pas moins notre œuvre. Elle est née d'une conséquence de la curiosité humaine» , écrivent les auteurs.
De plus, comme dans le fragment partagé à la fin de cette note, Sigman et Bilinkis se penchent sur les implications de l’intelligence artificielle et ses utilisations. L’IA peut-elle être utilisée en politique ? Existe-t-il des algorithmes de gauche et de droite ? Représentent-ils une menace pour les systèmes démocratiques ? Pourraient-ils au contraire améliorer la prise de décision et améliorer les institutions d’un gouvernement ? Tout cela et bien plus encore dans Artificial , édité par Debate.
« Artificiel », de Mariano Sigman et Santiago Bilinkis (extrait)
Entre utopie et dystopie : les algorithmes de gauche et de droite
Tout comme les statistiques d’accidents montrent que les êtres humains ne sont pas doués pour conduire des voitures, la frustration que beaucoup de gens ressentent à l’égard de la gestion publique et de la représentation politique semble être un indicateur que nous ne sommes pas non plus excellents à gouverner. Face à cette inefficacité persistante, maintenant que l’on voit que l’intelligence artificielle peut intervenir aussi bien dans l’oikos que dans la polis, on peut se poser, dans un exercice de curiosité, les questions suivantes : les institutions d’un gouvernement représentatif pourraient-elles s’améliorer si on déléguait ? quelques éléments de gestion pour une IA ? Prendraient-ils de meilleures décisions en matière de politique publique ? La réponse spontanée de la plupart des gens est non.
Mais avant de clore complètement le sujet, poursuivons notre enquête. Lorsque nous élisons un représentant ou un sénateur, nous le faisons en pensant qu’il prendra des décisions similaires à celles que nous prendrions. C'est l'essence même de la démocratie représentative. Supposons que les décisions prises par notre sénateur élu soient mesurées de manière exhaustive et comparées à celles prises par un programme qui a étudié nos préférences. Et supposons également que ce programme représente notre vision politique avec plus de précision que le sénateur humain. C'est-à-dire que dans des centaines de problèmes divers, la décision prise coïncide avec ce que nous voudrions, alors que cette coïncidence est beaucoup moins avec la personne pour laquelle nous avons voté. Accepterions-nous de déléguer notre vote au programme qui nous représente le mieux ? ou y a-t-il des problèmes qui ne peuvent pas être laissés entre les mains des machines ?
Le problème évident de l’introduction d’une IA dans le service public et l’exercice du gouvernement est, une fois de plus, l’énorme difficulté de définir la fonction de valeur qui guide ses décisions. Ils sont peut-être excellents pour atteindre l’objectif que nous leur avons fixé, mais quel sera cet objectif ? L'obstacle essentiel réside dans la diversité et l'éclectisme de la définition du « bien commun ». Pour une vision de droite, la priorité est probablement de garantir la propriété privée et pour une vision plus à gauche, de générer une société avec moins d’inégalités.
Tout comme dans l’exemple des voitures égoïstes et altruistes, il y aura des algorithmes de droite, du centre et de gauche , et de multiples variantes au sein de chaque espace idéologique. Les machines commenceront probablement à jouer un rôle croissant dans la prise de décision en matière de politique publique, mais nous ne pourrons pas nous libérer de la nécessité de décider quelle idée du bien commun nous soutenons et quel objectif nous préférons donner la priorité .
Avant d'affronter ce carrefour, nous rencontrerons un problème plus immédiat : avec le scandale Cambridge Analytica en 2018, nous avons découvert qu'il était possible de manipuler le vote pour influencer le résultat des élections . Déjà à cette époque, la prolifération de fausses nouvelles destinées à devenir virales sur les réseaux était un problème que nous ne parvenions pas à résoudre. Et nous pouvons imaginer que le problème va énormément s'aggraver dans les années à venir, maintenant qu'en plus de fausses vidéos peuvent être créées dans lesquelles une personne, avec son visage et sa voix, dit de manière extrêmement réaliste des choses qu'elle n'a jamais dites.
Dans le monde de l’IA générative, les fausses nouvelles peuvent être bien plus subtiles et dangereuses. Une campagne politique pourra également, grâce aux deepfakes et au clonage vocal, adresser des messages personnalisés, adaptés aux préférences et aux vulnérabilités de chaque électeur. L’homme politique n’aura plus besoin de transmettre un message à l’électeur moyen, mais pourra dire à chacun ce qu’il veut entendre. Celui qui aura accès à nos données aura aussi la clé pour manipuler, assez facilement, notre vote .
L'historien et philosophe israélien Yuval Noah Harari a récemment soutenu que l'IA représente un danger pour le système démocratique tel que nous le connaissons : « Il s'agit d'une menace particulièrement pour les démocraties plutôt que pour les régimes autoritaires, car les démocraties dépendent du débat public. La démocratie est essentiellement une conversation. Les gens se parlent. « Si l’IA prend le relais, la démocratie est terminée. »
La conversation est la fabrique d'idées, c'est le lieu où l'on construit des opinions et des croyances, où l'on définit ce que l'on fait et ce que l'on ne fait pas, ce qui nous semble bon ou mauvais et en qui nous accordons notre confiance. La véritable liberté d’établir chacun de ces éléments sans manipulation ni ingérence est au cœur de presque toutes les notions de république ou de démocratie représentative. C’est, comme nous l’avons vu, l’essence de la polis. Et l’IA conversationnelle, au service d’intérêts particuliers ou propres, a le potentiel de s’immiscer dans cet espace de conversation publique, et ainsi de le mettre en échec.
Si l’on sent que ces technologies pourraient éroder les fondements mêmes du système démocratique, il est inévitable de se demander : l’utilisation de l’IA pour manipuler les idéologies ou pour orienter le débat public est-elle acceptable ? Et sinon, sera-t-il possible d’imposer des réglementations limitant les abus ?
Ici apparaît un autre grand défi. Même si l’on comprend qu’il est nécessaire d’introduire des réglementations pour protéger les institutions démocratiques , il n’est pas clair qui a le pouvoir de le faire. D’une part parce que dans chaque pays ce sont justement les acteurs du système politique qui sont les bénéficiaires potentiels de ces mécanismes manipulateurs. D’autre part, parce que l’ingérence peut être encouragée et exécutée conformément aux intérêts de groupes ou de nations étrangères. La clé est que l’IA ne reconnaît pas les frontières traditionnelles. Ni ceux des gouvernements, ni ceux des pays.
Humains contre humains
Au début du livre, nous avons vu que la Seconde Guerre mondiale a précipité le développement de l’IA et de la technologie nucléaire. Mais après le conflit, les deux technologies ont suivi des trajectoires très différentes. Alors que l’IA était reléguée au rang de curiosité académique, la puissance de l’arsenal atomique est devenue la clé de l’équilibre géopolitique du monde pour les huit décennies suivantes.
Il est probable que l'objectif principal du largage des bombes sur Hiroshima et Nagasaki n'était pas seulement la destruction de ces deux villes et la mort d'environ deux cent cinquante mille personnes, mais aussi de montrer au monde que les États-Unis disposaient d'une nouvelle arme. qui venait de bouleverser complètement l'équilibre des forces dans ce conflit. Mais comme nous l’avons déjà vu dans le premier chapitre, un groupe de scientifiques impliqués dans le programme de développement nucléaire américain a décidé délibérément de partager ces informations avec l’Union soviétique. Son objectif était d’accélérer le programme analogique soviétique afin qu’il ne soit pas à la merci de son allié de circonstance, qui était en réalité son nouveau et plus grand rival géopolitique.
Quatre ans plus tard, en 1949, l’URSS faisait exploser sa première arme nucléaire lors d’un essai au Kazakhstan, déclenchant la guerre froide. Durant cette étape, qui dura quarante ans, un équilibre aussi tendu que précaire fut maintenu entre les deux puissances. Avec la chute du bloc soviétique et la prolifération nucléaire, une nouvelle période a commencé dans laquelle le monde est passé d’une lutte entre deux puissances à l’hégémonie américaine.
Selon un indice multifactoriel construit par le cabinet de conseil McKinsey, les États-Unis étaient à cette époque au moins cinq fois plus puissants que leurs rivaux circonstanciels, la Russie et la Chine. Cependant, au cours de la dernière décennie, le scénario a encore une fois changé. La montée de la Chine en tant que nouvelle puissance a remis en question l’hégémonie américaine, conduisant le monde vers une nouvelle configuration bipolaire. En fait, l’écart entre la première et la deuxième puissance s’est rétréci et est aujourd’hui plus petit qu’à l’apogée de l’Union soviétique. Il n’y a jamais eu de pays aussi proche qu’aujourd’hui de défier le leadership des États-Unis.
Ce que les bombes atomiques ont fait au XXe siècle, l’IA le fera sûrement au XXIe . Les applications militaires incontestables de cette technologie pourraient, une fois de plus, s’avérer être la clé de l’équilibre géopolitique des décennies à venir. Avec une différence importante : cette fois, une bonne partie du développement technologique est entre les mains d’entreprises qui, bien que suivies de très près par les gouvernements, ont leurs propres agendas.
Sur cette nouvelle carte du monde, pas facile d'estimer qui arrivera en premier. Mais si l’on se base sur le nombre de brevets liés à l’IA déposés par chaque pays, la domination de la Chine ces dernières années est écrasante. Pendant ce temps, le gouvernement américain fait pression sur Nvidia, le plus grand fabricant de GPU, pour qu'il ne vende pas les modèles les plus avancés à la Chine. Peut-être que le sort de cette lutte sera défini par une petite île, cinq fois plus petite que l’Uruguay : Taïwan joue un rôle clé dans la fourniture des équipements qui servent de base à l’IA.
Il est très probable que, sur la base de ce qui s'est passé dans la dernière période d'après-guerre, l'une ou les deux parties soient parvenues à une conclusion sombre et dangereuse : la prochaine fois qu'une puissance disposera d'une arme qui lui donnera un avantage momentané considérable sur ses rivaux, nous il faut essayer de démonter immédiatement les plans du second pour en arriver au même point. Par conséquent, avant de nous inquiéter du scénario cinématographique d’une bataille d’humains contre des machines, peut-être rencontrerons-nous un autre danger plus proche : l’utilisation d’une IA comme arme sans précédent dans l’éternelle dispute d’humains contre humains .