" C'est une menace particulièrement sérieuse pour les démocraties , plus que pour les régimes autoritaires, car les démocraties dépendent de la conversation publique", a déclaré Harari dans une interview publiée dans le média britannique The Telegraph . « La démocratie est essentiellement une conversation. Les gens se parlent. Si l'IA reprend la conversation, la démocratie est finie", a-t-il déclaré.
Harari prévient avec horreur que "c'est la première technologie de l'histoire qui crée des histoires". Et à son avis, la croyance collective en des "histoires" - de foi, de finance et de nation, entre autres - a alimenté la domination de l'humanité sur Terre. Maintenant, l'IA a aussi ce pouvoir, prouvant que le potentiel de la technologie pour le bien et le mal, autrefois considéré comme lointain et théorique, est maintenant immédiat et réel.
« C'est que la nouvelle génération d'IA ne se limite pas à diffuser les contenus que les humains produisent. Vous pouvez produire le contenu vous-même. Essayez d'imaginer ce que cela signifie de vivre dans un monde où la plupart des textes et des mélodies, et plus tard des séries télévisées et des images, sont créés par une intelligence non humaine. Nous ne comprenons tout simplement pas ce que cela signifie Quelles pourraient être les conséquences d'une prise en charge de la culture par l'IA ?
Harari suggère que l'IA ira bientôt beaucoup plus loin, évoquant un monde où «vous allez en ligne et discutez avec quelqu'un d'un problème politique. Ils pourraient même vous envoyer une vidéo en train de parler. Mais il n'y a personne derrière. Tout est IA."
Dans sa dystopie, décrit The Telegraph , le faux numérique synthétique ne serait pas non plus d'aucun être humain. Étant donné que les personnes proches de vous ont le plus d'influence, cela pourrait ressembler à un ami ou à un parent essayant de vous convaincre des avantages d'un produit ou de sa position sur le changement climatique, les vaccins ou l'immigration. Ce serait, dit Harari, un pouvoir jamais vu auparavant pour manipuler le discours public , et ferait en sorte que les médias sociaux influencent les scandales des 10 dernières années, qui ont déjà joué un rôle dans les élections du Brésil aux États-Unis, semblent-ils banal.
L'historien met en garde contre l'effet que pourrait avoir la technologie si elle était malicieusement déchaînée sur le champ de bataille par des régimes totalitaires. « Le régime nazi était basé sur des technologies comme les trains, l'électricité et les radios. Ils n'avaient pas d'outils comme l'intelligence artificielle. Un nouveau régime au XXIe siècle disposera d'outils beaucoup plus puissants. Les conséquences pourraient donc être bien plus désastreuses. C'est quelque chose que je ne sais pas si l'humanité peut survivre."
Frustré d'avoir l'impression que le monde ne voit pas le danger de l'IA comme lui, il ajoute : « Nous devons comprendre que l'IA est la première technologie de l'histoire capable de prendre des décisions par elle-même. Vous pouvez prendre des décisions concernant votre propre utilisation. Il peut également prendre des décisions sur vous et moi. Ce n'est pas une prévision future. Cela se produit déjà."
Il prévient que le pouvoir change pour la première fois de l'histoire. « Nous avons inventé quelque chose qui nous déresponsabilise. Et ça se passe si vite que la plupart des gens ne comprennent même pas ce qui se passe. Nous devons nous assurer que l'IA prend de bonnes décisions concernant nos vies. C'est quelque chose que nous sommes loin d'avoir résolu. »
L'historienne israélienne prône la régulation de ces outils et compare la nécessité d'établir des normes aux études médicales. « Une société pharmaceutique ne peut pas mettre un nouveau médicament sur le marché sans passer par un long processus réglementaire. Il est vraiment étrange et effrayant que des entreprises puissent diffuser des outils d'IA extrêmement puissants dans la sphère publique sans aucune mesure de sécurité similaire », s'indigne-t-il.
Enfin, il prévient qu'il appartient aux gouvernements de se procurer ces mesures : "Avec tout le respect que je dois à Elon Musk et Zuckerberg ou aux autres patrons des grandes entreprises technologiques, ils ne sont choisis par personne, ils ne représentent personne sauf leur actionnaires et ils n'ont pas de raison de leur faire confiance.
Continuer à lire: