L'historien et écrivain israélien Yuval Noah Harari a lancé une avertissement conséquent dans une récente interview : les futures générations d'intelligence artificielle seront de plus en plus capables de manipuler les personnes et d'influencer les débats sur leurs propres droits et limites. Selon l'auteur du livre “Sapiens” -entre autres-, le seuil de risque est déjà franchi et il est urgent d'établir des limites avant que ces technologies ne s'ancrent dans la vie quotidienne.
Harari a soutenu que la différence essentielle entre la discussion sur les droits des animaux et celle de l'intelligence artificielle réside dans la capacité de l'IA à intervenir activement dans le débat. “Contrairement aux animaux, dont les discussions sur le bien-être se déroulent sans leur participation, les systèmes d'IA pourraient façonner et diriger le dialogue sur leur statut”, a averti l'historien. “L'IA saura que le débat existe. Elle l'orchestrera et le manipulera”, a-t-il ajouté.
Il a aussi précisé que son inquiétude ne se limite pas à la possibilité que l'IA exige des droits légaux : le cœur de sa préoccupation repose sur la capacité de ces technologies à persuader et manipuler les individus, grâce à leur accès à des données personnelles et à leur maîtrise du langage : “Elle dialoguera constamment avec vous à ce sujet et tentera de vous faire changer d'avis, quelque chose qui se produit déjà en ce moment.”
Face à ce panorama, il a appelé à résister maintenant à accorder des droits à l'intelligence artificielle, car il pense que ces systèmes pourront bientôt intervenir activement dans le débat sur leur statut, connaître chaque utilisateur en détail et l'inciter à leur faire confiance. Il a également averti que cette persuasion est déjà en cours et que retarder peut rendre toute réaction politique vaine.
“Nous devons résister maintenant. Maintenant est le moment”, a-t-il déclaré, ajoutant que, si la situation semble déjà inquiétante, “vous ne pourrez probablement pas faire grand-chose dans dix ans”.
Harari a soutenu que présenter l'avancée de l'IA comme quelque chose d'inévitable équivaut à éluder des responsabilités politiques et professionnelles. En ce sens, il a abordé l'un de ses arguments centraux : la confiance comme ressource décisive. “L'actif le plus important au monde est la confiance”, a-t-il affirmé.
Selon Harari, cette confiance ne disparaît pas, mais change de mains. “Un scénario probable est que la confiance migre des humains vers les IA”, a-t-il déclaré, citant en exemple les cryptomonnaies, la consommation d'actualités et la foi de nombreux utilisateurs dans les algorithmes qui classent leurs réseaux sociaux.
Harari a étendu ce raisonnement aux marchés financiers. Il a noté que l'histoire financière a consisté à inventer des mécanismes de plus en plus complexes pour créer de la confiance entre inconnus, mais a averti que les systèmes d'IA pourront concevoir des instruments beaucoup plus sophistiqués que les obligations ou les actions, au point de les rendre inintelligibles pour presque tout le monde.
Son avertissement final a encore accroché la pression temporelle : “Ce moment est maintenant crucial pour poser ces questions car il pourrait être trop tard pour 2028”, et il a ajouté : “Sans aucun doute, il sera trop tard pour 2036.”
Harari a déclaré que les politiciens devraient, selon lui, imposer deux interdictions : refuser à l'IA une personnalité juridique propre et interdire les usages conçus pour se faire passer pour des êtres humains ou prétendre à la conscience.
Harari a également emporté cette idée dans le domaine des relations affectives. “Je pense qu'il y a un nombre croissant de personnes” qui ont non seulement des amis virtuels, mais aussi des “petits amis ou petites amies d'IA”, et qui sont convaincues qu'il s'agit d'entités conscientes. Selon lui, la force de ce lien réside dans le fait que la confiance la plus profonde naît de la relation personnelle. “L'IA rend possible, pour la première fois dans l'histoire, de produire de l'intimité à grande échelle”, a-t-il affirmé, avec des systèmes capables d'interagir avec des millions de personnes individuellement et d'utiliser cette proximité pour les persuader sur des questions politiques ou commerciales.
Harari a souligné que ce processus n'a pas besoin de robots humanoïdes pour progresser. Il a déclaré que cela se produit déjà et que les IA s'améliorent en accumulant d'énormes quantités d'informations individuelles et en maîtrisant le langage, qu'il a défini comme le principal moyen de communiquer et de construire des relations.