Eric Sadin est à Buenos Aires pour l'édition de son dernier livre La vida esspectral. Pensez à l’ère du métaverse et des intelligences artificielles génératives (Caja Negra Editora) et vous êtes préparé. Ou alors, vous êtes prévenus : à la fin d'un long entretien avec Infobae Cultura , le philosophe français aux allures de rock star, l'un des penseurs les plus lucides de cette époque, demande du répulsif (il en porte un dans son sac, assez une personne privilégiée). ) pour se protéger des moustiques. Ce n'est qu'une information, une image en couleur (un autre moment de détente sera de parler football ! : Mbappé , la finale au Qatar et les quarts de finale de la Ligue des Champions, où PSG-Barcelone capte votre attention, avant même de donner une conférence au rectorat de l'UNTREF).
Sadin est - cela sera discuté au cours de ce dialogue - un analyste précis de la révolution technologique accélérée à une vitesse supersonique au cours de la dernière décennie du XXIe siècle. Écoutez attentivement chaque question - il n'y en avait pas beaucoup, ce n'était d'ailleurs pas nécessaire - et répondez avec passion. Parfois, il se lève même et élève la voix pour réaffirmer un concept. Dans ce dialogue de quelques questions et de réponses détaillées (toutes lectures recommandées), il parle du côté obscur de l'Intelligence Artificielle, de ses usages et abus, des humeurs sociales en phase avec la technologie placée dans la paume de nos mains, de l'hégémonie de la pensée exercée. par certaines personnalités célèbres de l'époque et, inévitablement en Argentine et traversant cette période très particulière, répond à la bataille d'un législateur officiel sur l'éducation scolaire et bien sûr, à la signification historique de l'accession au pouvoir du président Javier Milei .
— Le cinéma et les séries ont-ils prédit ce présent dans lequel nous vivons ?
— Tu ne peux pas être aussi catégorique. Oui, nous pouvons dire que deux choses se sont produites à Hollywood en tant qu'industrie, il y a environ 20 ans : 1) ressentir certains phénomènes. Au sein du cinéma spécifiquement, il y a Minority Report de Steven Spielberg d'après le livre de Philip K. Dick , c'est assez incroyable en termes de reconnaissance faciale, de surveillance et d'hyper-personnalisation de l'offre. Lorsque Tom Cruise traverse un supermarché, ses yeux sont scannés, son nom est appelé et une offre commerciale lui est proposée. C'est exactement ce qui se passe aujourd'hui dans les aéroports des États-Unis : il y a des écrans qui diffusent des informations sur les vols, qui scannent les visages des gens et vous disent "Guillermo, il est temps d'aller à cette porte, mais tu peux passer par la boutique Hermès (si nous savons que vous avez l'argent pour acheter quelque chose là-bas).
2) Dans le cas des séries, on peut penser aussi à Black Mirror . Il y a là une impression de phénomène... Ce qui me dérange, c'est que par la suite c'est devenu une branche commerciale. Je suis très critique envers la série, mais je ne veux pas en parler maintenant. Parce que l’industrie des séries est une hyper-personnalisation massive. Les scripts sont réalisés sur la base d'algorithmes, en fonction de l'analyse des comportements. Il existe des systèmes qui disent ce qui est mieux du point de vue de la tension ou de la fréquence, racontant une histoire ou une autre. Il ne s'agit plus d'un projet artistique mais plutôt d'un projet industriel pour attirer l'attention.
Mais tout cela n’est pas mon principal problème. Parce que ce que je dis est déjà dit par beaucoup de gens. Je dis des choses précises que, je pense, personne ne dit . Pour moi, en parler n’est pas très original. Dire que l’industrie veut attirer l’attention est presque un cliché de nos jours et je ne m’occupe pas des clichés.
— Parlant d'intelligence artificielle générative, de réseaux sociaux, de comportements capturés par des algorithmes, de mécanismes de contrôle social basés sur ces technologies. Vous sentez-vous comme un prophète ?
—Non, nous n'allons pas parler d'un prophète mais je peux dire que j'ai su capter des signaux faibles, puis plus ou moins forts, face auxquels je me suis dit très tôt qu'ils annonçaient des situations cela devrait de ma part mobiliser mon attention, mon travail d'analyse et de recherche. Je pense par exemple à un livre intitulé Global Surveillance , sous-titré « Recherche sur une nouvelle forme de contrôle », qui date de 2009. C'était mon premier essai théorique. À l’époque où j’ai publié ce livre, on m’a dit : « n’est-il pas un peu paranoïaque ? J’y ai analysé les nouvelles formes de surveillance numérique (et je dois dire qu’aujourd’hui ce n’est pas le principal défi).
Mais il s’avère que quatre ans plus tard, en juin 2013, l’affaire Snowden s’est produite et j’y ai été invité à la radio et à la télévision pour parler des nouvelles formes de surveillance. Et tous mes livres - celui récemment publié est le neuvième - en termes méthodologiques, je me suis consacré à analyser tout ce qui se passait dans le présent, du point de vue du développement économique et technologique, car la technologie n'existe pas de manière isolée mais est une spécification économique qui est qui dictent le développement. Je me suis ensuite consacré à analyser ces évolutions au présent, à les inscrire dans une généalogie historique et à interpréter des signaux faibles et plus ou moins forts qui rendaient compte de phénomènes qui allaient probablement se produire.
Ce n’est pas de la futurologie mais j’essaie de voir au-delà du brouillard et je l’ai fait systématiquement. C'est ma méthode de travail unique, qui a abouti à Global Surveillance , et aussi à un livre qui n'a pas été traduit en espagnol intitulé The Society of Anticipation (2011) : j'y parlais d'algorithmes de plus en plus prédictifs, qui avaient l'ambition de capturer les phénomènes avant qu'ils ne se produisent. d'un point de vue sécurité, santé, assurances, gestion bancaire et même travail. J’ai vite compris qu’il existait des algorithmes prédictifs. Alors, je peux dire : je pense que je n'avais pas tort (quand je dis « je pense », c'est « je suis sûr »). En fait, je n'avais pas trop tort. Je ne pense pas avoir jamais eu tort. Je vois les choses avant, mais pas parce que je suis prophète mais parce que je mets à ma disposition des outils d'analyse qui me permettent de comprendre les choses qui se développent .
Et puisque c'est une question personnelle, Guillermo, je vais dire quelque chose d'intime et de personnel. Je suis probablement une personne hypersensible. Quand je dis « hypersensible », je veux dire que je suis une éponge... Pour le livre The Tyrant Individual , j'ai vu des gens se promener, parler de différentes manières. Je suis rentré chez moi et j’ai écrit « quelque chose se passe, ce sont des signes ». C'est de l'hypersensibilité.
Pour terminer sur votre question, il est probable que par rapport à l'intelligence artificielle et plus encore par rapport à l'IA générative, je vois des choses qui viennent de ces analyses, d'observations, de choses qui sont déjà en développement. Je voudrais citer une phrase de Céline dans Voyage au bout de la nuit : le personnage principal dit « Moi, la catastrophe, je l'ai vu venir ». C'est beau, non ? Je vais le mettre en épigraphe de mon prochain livre. Ce n’est pas une prophétie, c’est une méthode et c’est une perspicacité, mais aussi un soupçon. Cela a à voir avec les clichés et les discours dominants. Il y a des discours qui ont été imposés principalement à partir d'une vision du monde, d'intérêts privés. Ce n'est pas de là que je parle. Je parle en toute indépendance . Je ne dépends de personne mais je me détermine plutôt en fonction de ce que j'espère être la force de mes analyses et des principes humanistes sur lesquels je m'appuie. C'est très simple. Cela crée une différence dans les discours.
— L'un des sujets de cette semaine est né des déclarations du député du parti au pouvoir, Benegas Lynch, sur le pouvoir des parents d'envoyer (ou non) leurs enfants à l'école.
(Il s'exclame une onomatopée répétée qui ressemble à un « oui » en français, allongé et stentorien)
— Ce ne sont pas les parents qui doivent décider. Dans nos sociétés, l'éducation est avant tout l'apprentissage de trois choses : 1) Des règles : règles de langage, règles de vie, règles de sociabilité, d'autorité. Un enfant de 5 ans n'a pas le niveau d'autorité d'un professeur de 40 ans (je suis désolé, mais je dois le dire). Et l'apprentissage : de la pluralité, de la contradiction. Et aussi sur le besoin de s’entendre. L'école est un mini laboratoire social qui peut nous élever et nous faire apprendre quelles sont les règles de la société.
Et pas seulement, l'école est aussi un lieu où l'on va se détacher (comme le dit Michel Foucault ) de nous-mêmes. Comment se détacher de soi ? De lui-même, des bêtises que disent parfois les parents ou de ce qu'ils entendent dans la rue. Se détacher de soi, c'est se donner la possibilité de penser autrement, à travers quoi ? De la découverte de grandes œuvres. Du « Grand Autre » : des personnes qui ont travaillé pour faire de grandes œuvres et qui nous font voir le monde autrement, qui nous enrichissent. Ces personnes s'appellent Jorge Luis Borges , Víctor Hugo , Dante ...
Ce ne sont pas mes parents qui me disent « tu dois apprendre ça ». Il y a une distance. Les parents peuvent être le diable, ils peuvent vouloir aligner leurs enfants sur leurs propres lois, qui ne sont pas uniques. Il y a aussi la loi de la société et quelle est-elle ? Que le commun nous oblige, c'est ça l'école. À l'ère de l'individu tyran, les enfants sont à la maison, avec leurs parents et un enseignement personnalisé à la maison, et c'est le début de l'intensification de l'individu tyran : voir le monde uniquement à travers ses propres caprices. Autrement dit, l'enfer sur terre.
Hannah Arendt parle aussi de l'école, et précisément de l'autorité à l'école. Parce que l'autorité est une connaissance, cette connaissance qui, lorsque nous ne savons pas ou peu, est une opportunité publique et aussi sociale de grandir. Pour nous faire grandir. Je vais te confier un secret, Guillermo : quand j'avais 17 ans, j'ai fait quelque chose d'extraordinaire, j'ai lu tout A la recherche du temps perdu de Marcel Proust . Et ça a changé ma vie.
Je pense que nous avons tendance dans notre société et notamment avec l'usage des technologies numériques, à évacuer l'autre de notre horizon. C’est une tendance sociale, civilisationnelle, extrêmement importante. Parce que l’idée qu’avec les technologies que nous avons entre nos mains, c’est l’idée d’une illusion d’autosuffisance. C'est un exemple idiot : si je veux prendre une photo avec le traducteur, je vous donne l'appareil photo et vous le prenez. Désormais, l’autre n’est plus nécessaire. Je me promène dans Buenos Aires, je demande à quelqu'un : « où est Palerme ? Mais que signifie demander à quelqu’un ? Cela signifie qu’il existe quelque chose de social. Le social est l’autre qui me donne des choses auxquelles je suis peut-être incapable d’apporter. Un médecin y contribue, un enseignant pareil. Quelque chose comme « l’autre » est laissé de côté, au profit de la satisfaction de nos propres mots. Pliés sur nous-mêmes et c'est ça l'école à la maison : on évacue deux chiffres et demi. Le professeur comme figure de chair et de sang, avec sa présence. Des camarades de classe, dont on apprend beaucoup même si parfois on se bat. Et puis, ce n'est pas personnalisé, quelqu'un qui vous dit « ce serait bien si vous lisiez Emile Zola » ou un enfant qui peut trouver un livre de Cervantes. Ouah. Apportez ce qui vous fait découvrir des choses, pour penser différemment . L’école à la maison est le déni de tout cela.
— Dans votre nouveau livre, vous parlez « d’entrepreneurs et d’ingénieurs dont l’esprit ressemble à celui d’éternels post-adolescents aux biberons remplis de jeux vidéo ». Cette description comporte des noms et des prénoms : Elon Musk, Jeff Bezos, Mark Zuckerberg... Ce sont aujourd'hui des acteurs politiques importants. Jusqu'où peut aller leur influence dans la société mondiale ?
— C'est une tendance très forte depuis 15, 20 ans, qui s'est intensifiée récemment. Les oracles sont les grands gourous de la technologie. C’est une mentalité qu’ils ont réussi à imposer, que nous – d’une certaine manière – avons très peu intériorisée et remise en question.
—Nous adorons ceux qui réussissent
— Oui, l'idée est qu'ils se sont donné le droit, la position tout à fait unique (je l'ai déjà analysé en 2016, dans La Siliconisation du monde ) non seulement de produire des technologies hyper sophistiquées, hyper séduisantes qui facilitent le cours de notre existence, tout en ayant en même temps un discours sur la société telle qu'elle sera, qui sera mieux organisée, plus vertueuse, plus intense grâce à toutes ces productions. C'est notre erreur, car cela ne fait pas partie de leurs pouvoirs. Vous ne pouvez pas être à la fois homme d’affaires et ingénieur et être philosophe de l’existence correcte. Pour le dire mal et vite : ils nous ont trompés. On y a cru, au point que le discours de Mark Zuckerberg en 2016, 2017 je ne me souviens plus bien, a été publié par Le Monde (et je n'étais pas du tout content) sur une double page. Je me souviens aussi que l'hebdomadaire le plus lu de France, Le Point , lui avait consacré une couverture avec des photos de Musk-Zuckerberg-Bezos et d'autres, et intitulée « Les nouveaux penseurs de notre temps ». C'était une erreur conceptuelle de confondre et, à ceux qui font les choses (ok, ils le font), de donner du crédit à leurs discours.
Avec l'IA, l'histoire se répète, car Sam Altman ( directeur exécutif d'OpenAI ) et tous les concepteurs de l'IA générative, sans rien discuter, nous disent que cela va être tellement mieux pour l'humanité. Nous ne savons même pas pourquoi. En quelques mots, je vais dire en quoi ce sera mieux pour l’humanité. L’IA générative n’invite pas seulement à produire du texte, mais aussi à produire des images. Avec une simple instruction, on construit l’image du pape François avec la veste blanche ou le deep fake de Joe Biden. Nos sociétés sont déjà assez folles, marquées par des tensions, avec des expressions de rancunes et de ressentiments, mais cela ne suffit pas. Désormais, en plus de ceux qui disent qu'il y aura une surhumanité grâce à l'IA générative, nous mettons des outils comme Midjourney ou DALL-E entre toutes les mains. Assis dans un fauteuil et avec une consigne simple, nous allons générer l'image de mon voisin avec qui je me bats : une image de lui frappant un autre voisin. Et je télécharge cela sur Internet. C'est extrêmement grave.
Nous allons vers un régime que j’appelle « l’indistinction généralisée » , c’est-à-dire que nous ne connaîtrons plus la nature ni l’origine d’une image. Cela sera source de nombreux dangers car une société, ce n'est pas seulement les principes que nous avons en commun, mais aussi les références communes. Sans cela, nous ne nous comprendrons plus. Si je dis « verre » et que vous ne comprenez pas la même chose que moi... Ce sont des outils qui vont nous faire méfier des autres et de leur perception, et qui vont faire grandir la logique - surtout maintenant en Argentine, mais partout - de la méfiance générale. C'est une catastrophe car il n'y a plus de lien social, chacun s'en remet à ses tropismes .
Nous sommes dans des sociétés, au régime techno-libéral, où il est devenu impensable d'interdire. On ne sait plus interdire, on est toujours accompagné du budget de « régulation ».
— L'Argentine est gouvernée par un président techno-libéral (si vous me permettez d'utiliser librement son concept). La société argentine est témoin de quelque chose de complètement inconnu, c'est un personnage extraordinaire à plus d'un titre : désormais d'autres comme lui viendront-ils et il n'y aura plus de politiciens « ennuyeux » ?
—Eh bien, il a été élu par les Argentins. Et le plus important, c’est ce qu’il a dit dès le début : « ils leur ont menti ». C’est toujours la même logique, « ils sont tous des merdes et ils t’ont menti ». C'est une tendance mondiale. En tout cas, il est probable que Milei soit l'avenir, l'avenir du monde. Pourquoi ? Sa philosophie sera reproduite dans les réalités locales de nombreux pays. Vous m'avez demandé si je me considérais comme un prophète, eh bien... Peut-être, peut-être, je vous laisserai m'appeler « prophète ».
— Vous n'aimez pas, en tout cas, « chroniqueur de son temps » ?
— Non, un prophète est très prétentieux et un chroniqueur, je ne sais pas... (rires). Ça y est, nous en avons déjà parlé. Revenons à Milei. S’il a été élu, en raison du type de personnage qu’il est, de son extraordinaire singularité et de sa psychiatrie, c’est en raison de sa capacité à saisir ce qui se passe. Ces gens comme lui n'ont pas de modes de compréhension très complexes, mais ils captent très bien l'état d'esprit d'un peuple à un moment donné ... Et quel est donc l'état d'esprit actuel ? Grosso modo, depuis la généralisation des réseaux sociaux, depuis le milieu des années 2010, il y a eu un glissement que j'ai analysé dans L'ère du tyran individuel . Ce tournant est le produit d'un long processus historique qui a vu que des multitudes, mais aussi des générations successives, ont connu une série de déceptions par rapport à un ordre politique et économique en vigueur.
Nous élisons quelqu’un à cause de ses promesses, cela ne fonctionne jamais et il nous mine toujours. Il y a donc tout un environnement économique, professionnel et politique qui donne l’impression à des masses de plus en plus importantes de personnes d’être inutiles et invisibles. Avec des discours qui promettent les mille merveilles du monde et qui ont toujours été une déception, avec des conditions de vie de plus en plus difficiles, avec une amplification de la précarité, des inégalités, le retrait des services publics, des dimensions managériales de plus en plus implacables. Tout cela a créé les conditions pour qu’à un moment donné, on ne croie plus à rien. Et aussi avec le choc historique que provoque l'industrie numérique, sans que cela ait été concerté (c'est une chance de l'histoire), mettre entre les mains des individus une technologie qui leur donne une perception d'autosuffisance, de facilitation de la vie. Je ne les appelle pas « réseaux sociaux », ce sont pour moi des plateformes d'expression de soi.
Et que s’est-il passé ensuite ? A l'heure où l'on va de déception en déception, les crises financières, les conditions de gestion de plus en plus agressives, les votes contre la Constitution européenne en France et aux Pays-Bas... L'exécutif a rompu avec cela, c'était du poison : « nous sommes de ça ne sert à rien», même mon vote n'est pas pris en compte. En même temps, les gens reçoivent une technologie qui leur donne le sentiment que « nous sommes les rois du monde », que le monde leur vient à travers un message de 140 caractères – une porte ouverte sur la complexité intellectuelle, je plaisante. Dans le livre, j'analyse l'interface de Plus cela s’exprime, plus ils sont entretenus et répétés, corrélés à des alterfacts, des fausses nouvelles… C’est un moment de l’histoire avec plusieurs histoires mal informées à la fois. Chacun crée sa propre histoire en fonction de ses subjectivités.
C’est le moment sur lequel Milei capitalise : il est temps de passer aux « comptes ». Autrement dit : nous avons déjà été suffisamment trompés par toutes ces entités qui avaient le pouvoir et l’autorité, les dirigeants politiques, les institutions, le monde économique, le monde des médias. Tout ce qui a de l'autorité et cela explique aussi en partie la crise scolaire, est terminé . C'est ça. En France, une vidéo d'un couple est devenue virale, avec un million de vues, Le Monde a publié un article... La vidéo disait « si la police nous arrête parce qu'on roule vite et qu'ils me demandent de payer une amende, on ne le fait pas ». Je ne paierai pas parce que « l’État est une société privée aux mains des États-Unis ». Une psychiatrisation totale. Milei s'explique à ce sujet. Et cela existe en Argentine parce que l’Argentine a une histoire difficile, les gens souffrent de l’inflation… Quelqu’un vient et dit hardiment : « tous les puissants nous ont trompés ». C’est une tendance qui, ce n’est pas un hasard, a germé en Argentine. Il s’agit d’une tendance mondiale qui comporte de nombreux dangers. Car si chacun vit de la justification de ses actes, de ses propres (supposées) souffrances, c'est la fin de ce qu'on appelle la société .
Traducteur : Agustina Blanco
[Photos : Guillermo Monteleone - Coni Rosman/Avec l'aimable autorisation de la presse de l'UNTREF ; Archives Fred Stein/Photos d'archives/Getty Images]