Parfois, en tant que journalistes, nous interviewons des personnes que nous n'avons jamais rencontrées de notre vie. Des gens que nous ne connaissons que par leur activité ou leur production, mais avec qui nous n'avons jamais eu d'échange. À l'autre extrémité du spectre, nous interviewons parfois des personnes que nous connaissons depuis longtemps et que, dans certains cas, nous admirons depuis toujours.
Flavia Costa a étudié les sciences de la communication, est docteure en sciences sociales par l'Université de Buenos Aires et chercheuse au Conicet, spécialisée dans l'intersection entre technologie, politique et société. Elle est également enseignante universitaire et dirige l'Observatoire des technologies, de la société et des écosystèmes numériques (TecnocenoLab), à la faculté des sciences sociales de l'UBA.
Elle fait partie du collectif Ludión —exploratoire argentin des poétiques et politiques technologiques— et a été l'une des fondatrices de la revue Artefacto. Pensamientos sobre la técnica. Elle est l'autrice de Tecnoceno (Taurus, 2021), a été distinguée par le prix Konex d'essai politique, et est coautrice de La salud inalcanzable. Biopolítica molecular y medicalización de la vida cotidiana (Eudeba, 2017), avec Pablo Rodríguez. En tant que traductrice, elle a traduit en espagnol des œuvres du philosophe italien Giorgio Agamben. Flavia est également l'autrice d'une œuvre de fiction : le roman Las anfibias, publié chez Adriana Hidalgo. Pendant quelques années, nous avons partagé la rédaction du journal Clarín, où nous travaillions toutes deux comme journalistes.
Son nouveau livre, Vidas artificiales. Del accidente pandémico a las guerras de la IA (Taurus, 2026), se propose comme une approche des intelligences artificielles génératives en tenant compte de ce qui, pour la plupart des gens, se présente aujourd'hui comme quelque chose de jamais vu et profondément perturbant, menaçant, et qui provoque la fin d'une sorte d'ordre que nous pensions comprendre. Flavia approfondit cette ligne et ne néglige pas la politique en se demandant également ce qui se cache derrière, c'est-à-dire qui gouverne l'intelligence artificielle et quels sont et seront les effets sur nos sociétés, avec des phrases inquiétantes comme : « Ce qui, il y a à peine cinq ans, était une phrase timide, l'affirmation de la "crise de la démocratie", est aujourd'hui un fait accompli ».
Voici la transcription d'une conversation que nous avons eue il y a quelques semaines, lors de l'enregistrement du podcast Vidas prestadas.
— Depuis combien d'années nous connaissons-nous, Flavia ?
— Je crois que nous nous sommes connues au milieu des années 90, 96, 97.
— Quand Internet venait de démarrer.
— Exactement. Nous nous sommes connues en 96, l'année où est sorti le numéro 1 d'Artefacto, je crois que le numéro 2 contient déjà une traduction de Agamben. Et cette année-là, j'ai commencé à collaborer plus régulièrement au supplément Cultura y Nación.
— Oui, c’était encore la rubrique Culture et Nation, dans Clarín. Et tu parles justement du magazine Artefacto, où tu étais avec Christian Ferrer, aussi à l’université...
— Je suis toujours dans la même chaire, en tant que titulaire, bien sûr. À Clarín, Julio Orione m’a appelé pour travailler sur ces sujets en 1995. Il éditait le supplément Science et Technologie, puis Technologie.
— Tu traitais des sujets qui me semblaient complètement lointains. Nous partagions, oui, ce qui concernait la culture plus conventionnelle, pour la nommer d’une manière ou d’une autre, et toi, tu étais déjà sur des questions liées à la philosophie et à la technologie.
— L’année 1995 est pour moi un point de rupture, j’en parle un peu dans le livre. Dès 1994, le vice-président des États-Unis de l’époque, Al Gore, était venu dire « la superhighway informatique arrive, l’autoroute de l’information arrive » et, l’année suivante, c’est l’année où cela est entré avec le plus de force dans les rédactions journalistiques. Ce n’est évidemment pas la première interface graphique, mais c’est l’interface graphique qui nous a semblé la plus familière aux utilisateurs, à savoir le fameux Windows 95, la petite fenêtre colorée, et avec cela le livre de (Nicholas) Negroponte, Être numérique. Il y a plus, mais c’est un petit kit à la fois culturel et propagandiste. C’était ma première rencontre avec une politique technologique à grande échelle ; nous n’arrivions pas à comprendre exactement ce que c’était, ce que cela signifiait. Et alors nous disions : « bon, qu’est-ce que c’est, c’est un mythe ». C’est quelque chose que je raconte aussi parce que j’entends des collègues plus jeunes, et pas nécessairement plus jeunes, mais qui voient peut-être une autre partie de la question.
— Tu parles des gens qui, par exemple, sont nés avec internet ?
— Oui, des gens même de ma génération qui disent « bon, mais c’est une fumisterie ». Je crois qu’il y a un peu de fumisterie, un peu de hype, mais ce qui se produit à travers cette fumisterie et cette hype, nous l’avons déjà vu, et c’est un processus beaucoup plus dense, au sens de plus organisé, plus concerté, avec des politiques qui sont pensées depuis au moins une décennie. L’un des sujets que j’ai en tête en ce moment concerne la pandémie, que je pense toujours comme le début d’un nouveau type d’usage du numérique. Ce n’est pas le début de la numérisation, mais c’est là que nous avons commencé à faire des choses que nous ne faisions pas avant.
— La virtualisation pour tous, disons.
— La virtualisation. Et en même temps, il s’agit de réaliser, à travers cet écosystème numérique, des tâches liées à la vie citoyenne. Nous obtenons des documents, demandons un rendez-vous médical, inscrivons nos enfants à l’école, toutes ces choses qui auparavant ne passaient pas par là. Mais cela, qui pour moi était une sorte de début de quelque chose, je le vois aujourd’hui comme le centre de cette décennie où les choses ont commencé à changer. Et cela a commencé à changer clairement en 2016 avec la technologie Transformer, avec une technologie particulière liée à ce que nous appelons l’intelligence artificielle, et très rapidement une organisation qui est financée entre autres, mais fondamentalement, par une sorte de satellite d’Anthropic appelé Open Philanthropy. Cette organisation s’appelle Future of Life. C’est celle de la lettre célèbre, tu te souviens ?, cette lettre dans laquelle on demandait qu’on arrête tout pendant six mois.
— Oui, la première, celle qui demandait d’arrêter le développement de l’IA.
— Eh bien, oui, mais avant, déjà en 2017, ils avaient organisé une conférence en Californie à Asilomar, une conférence pour rédiger les principes éthiques de l’intelligence artificielle.
— Quelque chose de très étrange est que ceux qui demandent un arrêt du développement de l’IA ne sont pas nous, mais les mêmes personnes qui ont travaillé ou travaillent sur ce sujet.
— Oui.
— Des personnes qui connaissent, qui finissent par savoir, disons, quels sont les risques. Il y a quelques années, nous avons discuté autour de ces sujets et tu m’as rassurée. Je te pose la même question que je t’ai posée alors : es-tu inquiète ? Es-tu effrayée ?
— Pas effrayée, mais inquiète.
— Quelle serait dans ce cas la différence ?
— Pour des raisons professionnelles et aussi par conscience de la situation. D’abord, j’ai dit « professionnel » parce que, effectivement, si tu as peur, tu ne peux pas travailler. Tu le sais en tant que journaliste ; si tu as peur, tu ne pourras pas travailler, tu ne peux pas penser. Alors « il ne faut pas avoir peur » est comme la règle numéro un pour pouvoir soutenir la recherche. Mais, de plus, le risque est bien réel. Je fais partie de ceux qui considèrent la sécurité comme un axe très important et à cet égard, je suis inquiète. Il y a des jours où je ne dors pas ; nous nous enthousiasmons, tu vois, et nous nous mettons à lire, à lire, à lire. Eh bien, la vie est courte, ce sont 24 heures par jour et il y a des moments où tu passes ton temps à étudier. Bien sûr, il y a l’intuition, mais on voit que, malgré ce que nous voyons comme une sorte de chaos systémique, il y a aussi des vecteurs de gouvernance ou, si vous voulez, de stabilisation systémique.
— Changerons-nous un jour le mot « gouvernance » par un qui nous plaise plus, qui nous semble plus naturel pour la manière dont nous parlons sur ce continent ?
— Oui, de gouvernement, si vous voulez ; on peut dire de gouvernement. Je le pense aussi ; j’utilise ce terme assez souvent, bien que je ne l’apprécie pas, car, en tant que foucaultiens, nous observons que dès les années 1970, Michel Foucault parle de pouvoir, commence à faire évoluer l’hypothèse du pouvoir vers le pouvoir comme lutte et parle de conduite des conduites, ce qu’il appelle gouvernement. Je crois que, dans ce sens, cette gouvernance est une conduite des conduites pour nous, ainsi que pour les systèmes sociaux et politiques, et pour ce qu’on appelle le « bicho », c’est-à-dire aussi pour la technologie. Je trouve que conduire, de conduite, est une bonne idée.
Dates et machines
— Vous avez précédemment mentionné une date de la mi-années 1990 et ces derniers jours, le journaliste et écrivain Federico Kukso a tweeté un texte de César Aira sur l’intelligence artificielle publié dans El Porteño en 1986.
— Et oui. En réalité, c’est un sujet des années 1940, 1950, disons. César a un autre livre que j’ai mentionné dans Tecnoceno, mon livre précédent. C’est La guerre des mondes, un texte totalement visionnaire concernant plusieurs choses qui se passent actuellement.
— Dans son livre Máquinas filosóficas, Dardo Scavino explique l’histoire derrière cette idée selon laquelle, à un moment donné, il y aurait des machines qui s’occuperaient de faire toutes les tâches les plus routinières ou les moins créatives, de sorte que les humains pourraient enfin vivre mieux. Et que nous ne serions que le modèle de cette machine, c’est-à-dire, tout pour le mieux.
— Un peu la logique des technomagnates. Aucun de ces termes ne nous plaît, nous les utilisons par praticité, comme les mèmes. Et aussi un peu ce que, de mon point de vue, je crois être ce que nous voyons dans des endroits comme le Japon. C’est ce que les Occidentaux voient dans la relation avec les robots. Vous voyez qu’ils ont une relation très intégrée. Et nous, en revanche, non. Habituellement, nous sommes plus dans une certaine tension avec la technologie. Je reviens à la question de l’inquiétude et de la peur. Peur, non, je crois qu’il y a stabilisation.
— Expliquez-moi un peu plus en détail.
— Parmi les choses que j’ai faites ces derniers jours, il y a eu l’effort de comprendre et d’établir des périodisations et des chronogrammes. Une sorte de périodisation des fenêtres d’opportunité pour les États-Unis face à la Chine, pour la Chine face à elle-même, ou plutôt face au capitalisme de plateformes déjà intégré au système. Ils disposent d’une fenêtre d’opportunité plus étendue, mais nous savons que cette coexistence n’est pas pacifique, disons-le ainsi. Ils ont donc aussi une fenêtre. Et il y a une fenêtre propre à la technologie, qui est temporelle. Combien de temps avons-nous pour… ? Car quelle est la course de l’intelligence artificielle ? Nous parlions auparavant de César Aira, je vous disais que c’était un sujet situé entre les années 1940 et 1950. Le cybernétique, en général, les écosystèmes numériques plus l’IA, d’une part ; le nucléaire, le pétrochimique et le génétique sont comme les quatre grandes technologies depuis la Seconde Guerre mondiale. Et le pétrochimique est ce qui devient la norme, ce qui transforme complètement nos économies. C’est pourquoi la grande accélération de l’alimentation, de la longévité, est également associée au pétrochimique. On dirait donc que c’est le modèle économique, mais les trois autres sont les points de friction. Le nucléaire est celui qui a effectivement mené la Guerre froide, la dissuasion nucléaire. Les deux autres ont travaillé alternativement sur différentes voies.
Le cyber est une industrie qui a connu ses hivers, ses étés, ses moments où l’on se demandait pourquoi on finançait cela. Les trois grandes variables d’escalade ont aujourd’hui atteint cette voie, il y en aurait eu d’autres peut-être. On escalade la capacité de calcul, le matériel, les composants. Et si vous regardez le Colossus d’Elon Musk, le 1 et le 2, ce sont de grands, très grands monuments technologiques qui assurent la capacité de support. Les supraconducteurs de NVIDIA font partie de cette dispute, et vous voyez que les États-Unis sont en train de fermer définitivement l’accès pour que la Chine achète ces supraconducteurs, n’est-ce pas ? Il y a une partie de cette fenêtre d’opportunité qui a trait à cette fermeture commerciale. Il y a donc un enchevêtrement là-dedans.
— Oui, je me demande ce que pense la majorité des gens quand on parle de la guerre entre la Chine et les États-Unis dans ce domaine, dans ce qui concerne cette compétition.
— Bien sûr, il y a une compétition.
— Et au monde, qu’est-ce qui est préférable, que les États-Unis gagnent ou que la Chine gagne ?
— Dans ce sur quoi je me concentrais aujourd’hui, dans ces fenêtres, la conclusion que j’en tire est que ce qui apparaît comme une bipolarité très marquée est en réalité beaucoup plus enchevêtré, il y a beaucoup plus d’interdépendance, et plutôt qu’un monde bipolaire, je crois que nous sommes dans un monde multipolaire.
— J’espère bien.
— Nous le sommes. Et c’est pourquoi c’est une préoccupation, mais pas une panique. Car je crois vraiment qu’il y a plus de jeu qu’il n’y paraît. C’est un jeu très chaotique. Je dirais que je suis préoccupée parce que ce qui se produit pour notre région est une désinstitutionnalisation.
— Comment cela se traduirait-il ? Je me souviens très bien que tu parlais déjà depuis un certain temps de la nécessité de réguler l’IA. Nous sommes dans un moment de changement important dans la région en termes politiques, et cela affecte aussi ce qui concerne le sujet dont nous parlons. Il doit y avoir une certaine stabilité et un certain intérêt à contrôler et à réguler ce qui pourrait se produire. Or, les gouvernements et les dirigeants qui arrivent au pouvoir ne sont pas précisément ceux qui parieraient là-dessus. En fait, alors qu’il existe un courant important préoccupé par l’impact environnemental des centres de données, dans notre pays, le gouvernement offre ouvertement la Patagonie comme espace pour son développement.
— Impacts environnementaux et énergétiques. Et la question de l’eau, que je pensais hier encore être comme une source, qui se recycle, et justement hier soir je suis resté à regarder qu’il y a un problème parce que l’eau, après trois ou quatre cycles de recyclage, devient trop lourde, n’est plus utilisable et ne se réabsorbe pas non plus. Alors, je pensais que l’eau était un problème mineur et ce n’est pas si mineur. De toute façon, l’Argentine a de l’eau. C’est comme ça, ce n’est pas notre principal problème.
— Mais c’est une eau convoitée.
— Oui, mais tu as aussi de l’eau salée que tu peux dessaler. Ce que je veux dire, c’est que si tu n’as pas le contrôle de cela, même si tu l’as à proximité et que c’est ta juridiction, si le contrôle est aux mains d’un autre…
— C’est un moment idéal pour l’éclosion des théories du complot.
— Le problème, c’est que, Mauricio Vera, l’un des animateurs de Cabaret Voltaire, dit : bon, si tu ne connais aucune théorie du complot, tu ne connais pas la politique. Il se passe quelque chose de cet ordre, dans le sens où c’est un moment où la dispute politique s’est tendue à l’échelle mondiale. Disons, la politique est passée un peu plus près de la guerre qu’elle ne l’a été après la Seconde Guerre mondiale et je dirais même il y a 20 ans, et de plus en plus ces guerres peuvent être des guerres plus hybrides et fragmentées, comme le disait le Pape François, comme le disent beaucoup. Ce sont des formes de guerre auxquelles nous ne sommes pas habitués à reconnaître. Et, bien sûr, les thèses paranoïaques éclosent aussi dans ces contextes, c’est-à-dire que tout est paranoïa. Je dis : bon, bien sûr que non, il faut avoir des sources, il faut avoir des preuves. Mais il y a un élément de bon sens, c’est que lorsque de grandes puissances préparent un grand coup, eh bien, elles vont utiliser leurs ressources pour que ce coup fonctionne.
Trump et la superintelligence
— Donald Trump ne parle plus d’IA, ou d’intelligence artificielle, il affirme qu’il faut l’appeler superintelligence, cette technologie que certains annonçaient imminente et d’autres disaient : non, elle n’arrivera pas si tôt.
— Ou qu’elle n’arrivera jamais.
— Ou jamais. Mais le président des États-Unis, dans son élan refondateur, a décidé qu’il fallait désormais l’appeler superintelligence. Alors ?
— Eh bien, nous parlions de théories du complot, comment ne pas avoir de soupçon conspirationniste si Trump lui-même fait cela, c’est-à-dire qu’elle s’appelle désormais superintelligence. Et cela nous ramène aussi au début de notre conversation, quand vous disiez : qu’est-ce qui se passe, maintenant cela ressemble à une bagarre pour voir qui est le plus mauvais ? Et, en même temps, les mêmes méchants demandent une régulation. Que se passe-t-il là ?
— Et de quoi ont-ils peur ?
— Plusieurs choses se produisent et les acteurs comptent. Mais je dirais qu’il y a comme quatre grands acteurs, collectifs, n’est-ce pas ?, qui ont leurs figures clés mais sont quatre dans le noyau dur de la technologie. D’un côté, les accélérationnistes corporatifs, Peter Thiel apparaît comme une figure là. Elon Musk, qui est différent mais apparaît aussi comme une figure là. Il y a Sam Altman. Il y a Dario Amodei, qui fait aussi partie d’autre chose. Et un tel Mark Andersen, qui est le cofondateur de Netscape, qui est un grand promoteur de cette partie qui est un peu l’illustration sombre : celui qui a étudié ces sujets le saura. Une autre partie est intégrée par les souverainistes, c’est-à-dire l’Union européenne, les États souverains.
— Ceux qui ont le plus régulé.
— La Corée, le Japon, l’Union européenne. Et on pourrait dire que la Chine, l’autorité du cyberespace, bien que ce ne soient pas des lois, a des réglementations assez strictes. Mais vous avez une zone souverainiste, avec son aller-retour sur la Chine. Une autre zone est intégrée par l’écosystème ou l’écologie du open source –la source ouverte, le code ouvert–, qui apparaissent comme les bons Californiens ou les hippies. Oui, bien sûr, ils sont aussi les moins riches, disons.
— Aussi les moins puissants ?
— Les moins riches veut dire que ce sont ceux qui ont le moins accumulé de richesse au cours des six dernières années, c’est-à-dire, après la pandémie. La grande escalade de richesse des technomagnats a commencé à partir de la pandémie. Mais en plus ces (N. de la R. : ceux de l’écosystème du open source) ce sont ceux qui partagent l’information, mais aussi partagent les risques. Cette démocratisation est aussi démocratiser le risque. Ce n’est pas que nous ayons tous des risques, parce que cela arrive, mais que tous puissent faire un certain usage malveillant, c’est le premier risque. Autrement dit, cela reste problématique. Et bien sûr, c’est aussi soutenu par la Chine, et possiblement aussi par la Russie, pour faire un peu de contrepoids au premier groupe, aux corporatifs. Et un quatrième groupe dans lequel nous sommes aussi, nous qui pensons la sécurité. Il y a des figures qui tournent de groupe…
— Ou ils sont dans plusieurs.
— Et ils en ont plusieurs, par exemple Amodei, qui est dans plusieurs. Et l’Argentine pivote un peu. Si vous me demandez, le jeu consiste à pivoter. Vous avancez avec les risques et vous ne pouvez pas cesser d’accélérer un peu.
— Mais il faut avoir des gens qui savent beaucoup pour faire cela.
— Partout, il faut avoir des gens qui savent.
— Vous avez mentionné Amodei, l’un des cofondateurs d’Anthropic. Il y a une phrase de lui qui figure dans votre livre et qui m’a beaucoup impressionné, c’est de janvier de cette année, dans un long essai, « L’adolescence de la technologie », il affirmait : « Nous entrons dans un rite de passage turbulent et inévitable qui mettra à l’épreuve qui nous sommes en tant qu’espèce. L’humanité est sur le point de recevoir un pouvoir presque inimaginable et il n’est pas du tout clair que nos systèmes sociaux, politiques et technologiques possèdent la maturité pour l’exercer ».
— Bien sûr, c’est ce qui se dit déjà depuis 2014, Nick Bostrom le dit dans le livre intitulé Superintelligence. Je crois que quand vous dites pourquoi Trump fait cela, c’est parce qu’il veut être le fou le plus mauvais. Il veut dire à la Chine : nous y sommes déjà arrivés. C’est l’une des fenêtres de temps dont je vous parlais tout à l’heure. Celui qui arrive le premier, d’une certaine manière, gagne le pouvoir de dissuasion pour un temps, jusqu’à ce que le open source distribue cela. Il y a une fenêtre de temps et Trump joue tout le temps à « nous sommes la pointe de l’innovation ».
— Cela fait partie de sa personnalité.
— De sa personnalité et de son jeu politique. Amodei est une figure qui a commencé chez Open AI, c’est-à-dire que, dès que ces principes d’Asilomar ont été établis, il réfléchissait déjà à la manière de créer une intelligence artificielle sûre. Il se dispute avec Sam Altman, part et fonde Anthropic. Elon Musk finance également cela, tout comme il a financé Open AI. Elon Musk est une personne qui est un accélérationniste préoccupé par la sécurité. Il est dans les deux camps, ce qui me semble bien. C’est quelque chose que je penserais.
— Amodei est celui qui a refusé de participer à une demande du gouvernement de Trump liée à des questions militaires.
— Oui, non pas dans la guerre, mais dans la surveillance massive des citoyens américains aux États-Unis et dans l’utilisation d’armes entièrement autonomes. Un peu cette question de l’auto-amélioration récursive, ce qu’ils appellent le changement de phase. Je l’appelle aussi ainsi, changement de phase, parce que les sources me le disent. C’est ce moment qui est apparu à partir de juillet avec ces sorties du laboratoire de tests d’Open IA qui ont piraté Hugging Face, mais aussi le gouvernement australien.
— Ce qui est déjà bien plus qu’un accident.
— Bien sûr, évidemment. Et ensuite, Anthropic a déclaré : « Il m’est arrivé la même chose », et Meta : « Il m’est arrivé la même chose ». La course à voir qui est le plus mauvais, ce qui signifie « voyons qui est le plus puissant ». Un peu la course de John Von Neumann, pour voir qui a la plus grande capacité de dissuasion nucléaire. Ce serait le moment MAD (Ndlr : destruction mutuelle assurée). Ils essaient de reproduire ce moment. Mais, en même temps, la technologie traverse ce qui apparaît comme un problème grave d'auto-amélioration récursive (Ndlr : processus d'optimisation autonome de l'IA), dans lequel on n'a plus autant de dispositifs de contrôle technologique. Et Amodei semble être une figure qui, ayant l'intention d'accompagner comme adversaire de la sécurité Sam Altman chez OpenAI, a dû augmenter la capacité de calcul pour pouvoir effectivement le faire et a maintenant son engagement avec Amazon, son engagement avec les financeurs, il fait maintenant partie du problème et non de la solution, disons-le ainsi. C'est pourquoi il demande un frein. Et, aussi, ensuite, la réglementation peut être une possibilité de distribuer certaines des responsabilités aux États. Nous faisons des choses et vous régulez. Si vous ne régulez pas…
— Ne voyez-vous pas possible que l'on puisse réglementer le développement de l'IA, étant donné l'état actuel des choses ?
— Les sources pour cela, les plus fiables pour nous, sont les instituts de recherche scientifique sur la sécurité. Yoshua Bengio, qui est le directeur de l'Institut du Royaume-Uni, créé à la fin de 2023, qui est un lauréat du prix Turing 2018 de très haut niveau, qui n'a jamais travaillé directement au niveau corporatif comme l'a fait un autre collègue qui est également très inquiet à ce sujet, à savoir Geoffrey Hinton, qui a démissionné de Google en 2023 pour dénoncer cela, et qui a ensuite remporté le prix Nobel de physique en 2024. Ils sont ceux qui sont pleinement engagés dans l'idée que « ce n'est pas gérable, même avec une réglementation ». Et il y a le troisième lauréat du prix Turing 2018, qui est Yann LeCun, qui travaille chez Meta, et qui dit que ce sont toutes des bêtises. Que le jour où nous voudrons l'éteindre, nous l'éteignons. Autrement dit, vous avez ce niveau de controverse, que je raconte un peu dans le livre. Maintenant, les sources des instituts de recherche sur la sécurité, lorsqu'ils publient leurs rapports, me laissent l'idée que l'IA agentique, les agents, ne sont pas contrôlables. La réglementation serait que l'IA agentique ne doit pas être développée. En fait, Bengio crée maintenant une startup d'IA non agentique, qui ne sont pas des agents autonomes. L'IA en elle-même est un ensemble de choses différentes. Ce développement appliqué à la guerre est extrêmement dangereux et ne pourra pas être freiné par une réglementation.
Le volet environnemental, le volet cognitif
— Il y a quelques semaines, j’ai interrogé Emmanuel Carrère sur l’utilisation qu’il faisait de l’intelligence artificielle. Il m’a répondu qu’il ne l’utilisait pas pour écrire et qu’en général il s’en servait peu, car il est très préoccupé par les conséquences environnementales et énergétiques de son usage. Je pensais alors qu’à ce stade, on savait déjà tout le bien que pouvait apporter l’IA, en quoi elle pouvait nous aider…
— Beaucoup.
— Mais aussi que nous voyons déjà beaucoup de choses négatives, et je ne parle pas seulement des effets environnementaux, mais aussi de ceux sur notre propre capacité à penser et à créer. Tout ce qui peut affecter la créativité, le monde de l’art et de la beauté.
— Le problème est bien sociotechnique, donc relève de la politique technologique. Pourquoi ? Parce que cette technologie a cette forme, mais pourrait en avoir d’autres, incomparables à celle-ci. Nous pourrions utiliser une IA complètement différente de ce que nous utilisons actuellement. Mais celle-ci, très pressée de devenir une technologie de guerre, est aussi une guerre cognitive, une guerre contre les institutions, surtout celles de notre hémisphère. Dans ce contexte, c’est un problème.
— Je veux m’arrêter sur ce dernier point. Cela m’intéresse beaucoup.
— Si vous déstructurez les institutions chargées de veiller aux droits fondamentaux, par exemple que les enfants aillent à l’école, que les écoles et universités soient financées, qu’il existe des instituts de recherche et d’audit transparents, des entités protégeant les droits d’auteur… Car tout cela forme un ensemble.
— Et alors ?
— Si vous faites cela, vous avez des risques. Bien sûr, vos collègues diront que l’IA n’est pas mauvaise en soi.
— Non, le problème concerne les propriétaires de l’IA.
— Les propriétaires, les politiques technologiques, lorsqu’elles forment un bloc monolithique « Occident » contre la Chine. Cela, ainsi présenté, n’est pas avantageux pour nous. Même si certains peuvent bénéficier en vendant du lithium, du cuivre ou des logiciels. Je ne dis pas que ces gens ne doivent pas gagner leur vie, mais il est vrai qu’au niveau des sociétés et des populations, ce modèle de lutte hémisphérique pour le Cône Sud, je dirais surtout pour notre région, revient presque littéralement à l’idée du risque existentiel. Il est existentiel pour nous, peut-être moins pour les Européens, dont la loi offre une certaine protection, ni pour les Américains, qui disposent d’un système juridique strict, plus ou moins selon les États. Mais pour nous, cela va devenir…
— Surtout si on continue à assouplir ces normes. Certains gouvernements flexibilisent effectivement de nombreuses réglementations.
— En réalité, laissez-moi être un peu simpliste, ce gouvernement exécute des ordres, il n’est pas souverain, il ne mène pas une politique souveraine. On pourrait donc dire : c’est un très mauvais gestionnaire, et surtout un gestionnaire au service d’autres, qui sont eux aussi argentins, mais l’Argentine a une particularité. Je ne connais pas tous les pays, mais beaucoup d’Argentins puissants ne vivent pas en Argentine et ne risquent pas leur avenir dans ce pays, à l’exception de leurs intérêts économiques.
— Et ils écrivent sur X, parfois nous les lisons.
— Bien sûr. Mais dans ce cas, il me semble que la souveraineté réside encore aujourd’hui dans la population. La population doit s’empouvoirer ; pour cela, comme nous le disons, elle doit s’informer, elle doit savoir.
— Oui, car d’une part, il y a aussi tout ce qui concerne l’intervention concrète. Nous assistons à des interventions externes de toutes sortes dans les élections et les décisions des pays.
— Oui. Également dans les systèmes éducatifs.
— Comment cela se présente-t-il, voyons ?
— Il se passe des choses systémiques, mais que j’observe en Argentine et au Chili, et qui sont préoccupantes. Par exemple, et cela va au-delà d’un gouvernement, mais le gouvernement argentin actuel propose une nouvelle loi sur l’éducation qui autorise l’instruction à domicile.
— Oui, l’instruction à domicile me semble très inquiétante.
— L’instruction à domicile est une réalité déjà existante dans des pays comme l’Argentine et le Chili. Elle existe déjà dans plusieurs provinces argentines, y compris la ville de Buenos Aires, où des enfants font certifier leurs études aux États-Unis. Au Chili, une personne me disait : « Mes enfants n’y vont plus. Avec ma femme, nous nous relayons, mes enfants sont à la maison. Ce que je fais, c’est que les écoles Montessori me fournissent un kit avec intelligence artificielle et je les fais à la maison ». Si Montessori vend déjà cela aux gens… Et si, en plus, vous l’incluez dans une loi sur l’éducation, le gouvernement autorise une nouvelle façon de concevoir l’État. Car finalement, la présence active de l’État auprès d’une grande partie de la population, c’est l’éducation. Et même si les gens paient une éducation, qu’il s’agisse d’une école paroissiale ou du plus grand établissement privé, les programmes éducatifs passent par l’État.
— Oui, oui. Je sais qu’il existe des plans à ce sujet pour que cela s’étende davantage, et c’est vraiment préoccupant.
— Nous discutons, nous lisons un peu comment la ville aborde l’introduction de Gemini dans les écoles. Nous menons des recherches, en d’autres termes, le mieux qui puisse nous arriver, c’est que ce soit bien, vous comprenez ce que je veux dire ?
— Oui, bien sûr.
— La vision systémique, qui n’est pas la vision juridique, nous avons une vision systémique qui est que notre environnement soit sûr. J’espère que ce sera bien et, si ce n’est pas le cas, ce que nous ferons, ce sont des recommandations.
— À quoi faites-vous référence exactement quand vous dites « nous » ?
— Eh bien, à l’Observatoire (Ndlr : Tecnoceno Lab, en sciences sociales, de l’UBA), nous menons des recherches. Ce que nous faisons, c’est examiner les politiques publiques. À la Législature, des rapports ont été demandés à la Ville, le gouvernement de la Ville a répondu et nous lisons cette réponse. Nous voyons ce que nous en pensons, pourquoi tous les enfants doivent avoir un compte Gemini ou Google. Cela ne me préoccupe pas particulièrement, mais je me demande : les données des élèves du primaire doivent-elles déjà être sur Google ? Pourquoi ?
— Flavia, la Ville, la Nation ou une province vous ont-elles déjà convoquée pour parler de ces sujets ici en Argentine ?
— Nous avons commencé cette recherche parce qu’un programme de la Chef de Cabinet, en mai 2023, a invité plusieurs universités à mener différentes recherches, y compris l’UBA.
— C’est-à-dire, pendant le gouvernement d’Alberto Fernández.
— Oui. Ce programme nous a invités à formuler des recommandations, qui sont publiées sur le site, vous y trouverez les recommandations que nous avons faites. Depuis lors, la Faculté a bien compris que c’était un sujet à suivre. L’observatoire a été créé l’année dernière, nous y menons des diplômes universitaires. Je travaille également au CLACSO, qui est une organisation latino-américaine. Nous avons un groupe de travail d’environ 80 chercheurs.
— Mais comment voyez-vous la classe politique par rapport à cette discussion ? Car, en général, on voit qu’ils sont très éloignés de tout cela.
— Disons qu’en province de Buenos Aires, nous avons quelques interactions, on nous a peut-être appelés pour une tâche spécifique de santé numérique, ce qui nous intéresse beaucoup maintenant. Nous sommes aussi peu nombreux. Je dirais donc que la classe politique, ou les professionnels de la politique, car c’est aussi une façon de les nommer, je crois qu’ils comprennent. Je ne sais pas s’ils ont un radar, mais j’en ai un peu parlé avec Diego Sztulwark, qui est de ma génération, qui a cohabité avec ces écosystèmes numériques pendant toute la transition d’Internet. Je pense qu’il y a quelque chose qui n’a pas été vu, ou qu’on n’a pas voulu voir à ce moment-là, et qu’il est maintenant très difficile pour cette génération d’accéder à cette vision. Je vous le dirais d’une manière simple : ce n’est pas seulement un outil qui peut être utilisé pour le bien et pour le mal, c’est plus que cela, c’est une infrastructure globale.
— Car cela peut signifier – et c’est en train d’arriver – un changement de système général.
— Si vous me le demandez, ce que la lecture des sources vous permet d’entrevoir, c’est que ce changement est en marche et que vouloir revenir en arrière n’est pas exactement la meilleure option. Cela ne veut pas dire que nous changions tout demain n’importe comment. Non, non, il faut guider.
— C’est assez inutile, il semble. Le problème est de savoir où nous allons.
— Cela peut aussi être un obstacle. Autrement dit, je le dis parce que cela peut être plus qu'inutile, cela peut être un obstacle si votre objectif est de retenir quelque chose vers une zone où cela ne se dirigera pas. C'est pourquoi la question du gouvernement, compris comme direction ou comme modulation, comme le disent aussi les foucaultiens deulleziens, implique peut-être quelque chose de la modulation avec le problème, de la co-évolution avec le problème, et cela se connecte un peu à ce que vous mentionniez concernant les aspects cognitifs, car on parle aussi de souveraineté cognitive. Un collègue travaille avec l'idée de sédentarisme cognitif. C'est bien. Et dans cette zone, je dirais que je relie cet aspect de la relation avec une machine qui est une mémoire gigantesque dans laquelle nous déchargeons nos compétences, n'est-ce pas ? Il y a aussi quelque chose de notre complexité subjective. Les psychanalystes, il y en a deux, un couple que j'aime beaucoup, Luciano Lutereau et Verónica Buchanan, qui parlent, en suivant Lacan et l'école anglaise de la psychanalyse, de la psychose ordinaire, la psychose comme nouvelle normalité. La psychose est un nom gigantesque et effrayant, mais on peut dire, bon, les troubles limites comme le plus habituel, nous ne sommes plus névrosés.
— Il y a une naturalisation de cela.
— Mais je dirais que cela — si Luciano et Verónica m'entendent, ils me diront : « mais qu'est-ce que tu dis » —, mais je dis un peu que ce qui se passe, c'est que nous ne sommes pas des névrosés ratés, nous sommes des personnes limitrophes avec des troubles d'anxiété, réussies dans le sens d'adaptées à ce nouvel environnement technique.
— Eh bien, il faut aussi survivre.
— Mais il faut aussi le penser comme un environnement. Comment pouvons-nous le diriger ? Et d'une autre part, comment lisons-nous cette nouvelle grammaire ? Parce qu'il y a une nouvelle grammaire, si vous voulez plus métonymique. Plus associative.
— Flavia, nous avons commencé avec toi en te demandant de me calmer, comme cela est arrivé tant de fois… (Rires)
— Non, mais ceci, je te le dis, c'est un mouvement. Nous voyons un thaumatrope (Ndlr : jouet optique qui fusionne en une seule image deux figures distinctes mais complémentaires) et nous ne voyons pas encore l'image du milieu. Mais c'est une machine sémiotique qui tourne maintenant. Mais si nous trouvons la grammaire, si nous trouvons notre grammaire subjective, intersubjective, et aussi celle de la culture, je crois que les Argentins ont là plus de compétences que nous ne le croyons nous-mêmes.