Il est l'un des intellectuels les plus brillants d'Argentine et vit en France depuis 1998. Parfois, la distance nous aide à réfléchir, à nous en tenir au meilleur de ce que nous voulons et à clarifier les mécontentements et les souffrances de ce qui nous semble mauvais. Peut-être que quelque chose de cela arrive avec Dardo Scavino et son œuvre, composée d'essais qui abordent des sujets très différents bien qu'ils partagent la rigueur du traitement, l'originalité du propos et l'élégance de la prose classique argentine d'une qualité incontestable.
Son dernier livre s'intitule Philosophical Machines. Problèmes de cybernétique et de chômage (Anagrama) et dans son style traditionnel qui croise des réflexions originales avec la diffusion de bibliographies centrales mais complexes, il aborde la manière dont, tout au long de l'histoire, les philosophes ont analysé la relation entre l'homme et le monde des machines et avec le travail. Il le fait bien sûr à une époque, celle d’aujourd’hui, où la croissance de la figure de l’intelligence artificielle (IA) semble se consolider comme une ombre inquiétante et menaçante.
Ce qui suit est la transcription de la conversation que nous avons eue sur Zoom il y a quelques semaines pour l'émission de radio Vidas Prestadas , sur Radio Nacional. Le ton affable et affectueux a ses raisons dans la personnalité de Scavino, mais aussi dans l'amitié qui nous unit depuis si longtemps : Dardo et moi nous connaissons depuis trente-cinq ans, depuis l'époque où nous travaillions ensemble devant la caméra. Théorie III du programme d'études littéraires de l'UBA, enseignée par le grand critique, essayiste et professeur de Rosario, Nicolás Rosa (1938-2006).
« Votre dernier livre a la particularité que, même s'il n'a pas été écrit ces derniers mois, il peut aujourd'hui être lu à partir des craintes générées par l'intelligence artificielle. Philosophical Machines peut être lu comme une histoire de la pensée sur la relation entre les humains et les machines. Quelque chose comme ca?
– Oui, exactement. Cela va un peu plus loin que l'intelligence artificielle, puisque depuis l'époque des Grecs Aristote s'interrogeait sur ces machines qui pouvaient remplacer les esclaves, même si à cette époque, bien sûr, il y en avait davantage. C'est imaginaire plutôt que réel, mais je pensais qu'un jour les machines pourrait remplacer les travailleurs et c’est en effet en partie ce qui se passe actuellement, n’est-ce pas ?
- Exactement.
– Que les machines nous remplacent. Et puis, en partie, la manière dont nous abordons le problème de l’intelligence artificielle s’inscrit dans cette ligne de pensée aussi ancienne en philosophie qu’Aristote.
« Il y a quelques concepts qui apparaissent tout le temps dans les différents chapitres comme le loisir, l'âme, le corps, la machine. Et vous expliquez ensuite comment ces concepts ont été traités tout au long de l’histoire de la pensée. Quelle a été la première chose qui vous a fait penser qu’un livre comme Machines Philosophiques devait être écrit ?
« Écoutez, tout d'abord, c'est un livre qui me préoccupe depuis longtemps parce que je suis un enfant de l'école industrielle . C'est-à-dire cette chose étrange et en même temps extraordinaire qu'est l'école industrielle en Argentine - qui n'existe pas dans d'autres parties du monde - et qui a été associée à un projet dans une Argentine qui avait Il fallait précisément que ce soit une Argentine industrielle et développée, et qu'il fallait préparer des techniciens capables d'assumer ce type de tâches dans les nouvelles industries. Et bien, je suis un peu une conséquence de ça. Je suis électronicien, même si cela ne semble pas être le cas, car je n'ai jamais travaillé dans ce domaine.
– Incroyable.
« Eh bien, immédiatement, une fois que j'ai obtenu mon diplôme de technicien en électronique, la première chose que j'ai faite a été de m'inscrire à la Faculté de Philosophie et de Lettres. Mais en réalité, je n’ai jamais cessé de penser à toutes ces questions, elles étaient toujours présentes. Alors j’ai pensé qu’un jour je devrais travailler là-dessus. En raison de problèmes historiques particuliers que tout le monde connaît, le sujet de l'essai sur le djihadisme ( Le rêve des martyrs ) est apparu, donc Máquinas a été un peu reporté et ensuite je l'ai abordé, j'ai voulu aborder cette question parce que j'ai toujours été fasciné par comment la philosophie a pensé la question des machines, en général la question du rapport à la technologie, et l'a toujours pensée en relation avec la liberté et l'égalité. Je viens de vous dire qu'Aristote pensait déjà "Eh bien, s'il existe une société dans laquelle les machines peuvent faire le travail des esclaves, alors nous n'aurons pas besoin de plus d'esclaves".
« Et nous pourrons tous nous asseoir, réfléchir et passer un meilleur moment.
– Exactement. C’est-à-dire qu’on s’y est habitué dans notre monde capitaliste, qui est un monde qui survalorisait le travail, le travail est quelque chose de digne, etc., etc., mais ce n’était pas le cas des Grecs, des premiers philosophes. En d’autres termes, ce qui rendait une personne digne, c’était les loisirs et non le travail. Les loisirs, bien sûr, ne sont pas compris comme une dolce far niente . Le mot que les Grecs devaient parler du loisir était skholè , qui est le mot dont vient notre école ou l'école anglaise. C'était donc tout, se consacrer à la réflexion, à l'apprentissage, à la culture, à la lecture de livres, comme ce que nous faisons dans ce programme, donc c'était vraiment un vrai loisir. Et c'est là la véritable dignité de la personne. Le travail était indigne, les hommes ne travaillaient pas . Entonces, a lo largo de la historia siempre estuvo esta idea de una sociedad donde los hombres pudieran llegar a ser finalmente lo que era humano por excelencia, que era la reflexión, la cultura, la creación, y no tener que dedicarse al trabajo alienante, nous pouvons dire. Et cela a toujours été une pensée liée à la question des machines et de la technologie.
– Je vous écoute et je me souviens de ce qui est apparu, qui a à voir avec la Révolution russe et Lénine, avec cette idée qu'en réalité les hommes, les paysans, les ouvriers, allaient pouvoir seulement s'occuper réellement de la direction politique. une fois que les machines s'occuperaient de ce que les hommes avaient fait jusqu'à ce moment-là. Il n'y a pas beaucoup de différence, je vous dirais.
– Ah, non, c'est exactement dans cette optique. Lénine poursuit une ligne de pensée qui remonte aux Grecs . Bien sûr, vous faites référence à la célèbre phrase de Lénine : « Le communisme, c'est les soviets plus l'électricité », a-t-il dit. Ainsi, l'électrification de tout le pays, a déclaré Lénine lors d'une des conférences. C'était ceci : nous devons vraiment moderniser la Russie, qui était à l'époque l'un des pays les plus arriérés d'Europe, il ne faut pas l'oublier. Pourquoi? Parce que cette modernisation permettra aux travailleurs de se libérer du travail aliénant et de se consacrer, en étant éduqués, à gouverner l’État. Et, à terme, que l’État disparaisse. Les soviets plus l’électricité, voilà la clé de la formule de Lénine.
– Cette phrase est très bonne.
- C'est fabuleux. Lénine continue avec cette tradition de pensée qui vient de Platon et d'Aristote et c'est que finalement, celui qui dirigeait l'État devait savoir comment le faire, seulement que pour Lénine, le peuple ou les travailleurs devaient acquérir cette connaissance qui, jusqu'à ce que moment, il avait été réservé à l’élite. Malheureusement, comme nous le savons, tout cela n’est pas facile et cela ne s’est pas produit comme cela aurait dû se produire. Mais c'est quand même quelque chose qui circule. Et aujourd’hui, ce qui se passe curieusement, c’est que tel travail intellectuel ou tel travail scientifique créatif commence à devenir l’élément central du monde capitaliste. En d’autres termes, il n’est plus l’élément central, même si, bien sûr, l’ouvrier industriel traditionnel existe toujours, mais il est plutôt déplacé vers les pays d’Asie du Sud-Est et ce travail intellectuel commence à occuper une place de plus en plus grande dans la production de richesse.
- Tout comme nous avons parlé des concepts de liberté, d'égalité et de loisir, le thème du maître et de l'esclave est une autre des lignes qui parcourent non seulement votre livre mais aussi l'histoire de la pensée, car ce maître et cet esclave pourraient avoir la forme des humains, car ils peuvent avoir exactement la forme d'une machine. Et une autre chose qui traverse l’histoire, et aussi votre livre, c’est la figure de la machine créée par l’homme ou la construction de l’homme qui se retourne contre l’homme. Quelque chose dont nous parlons tous les jours aussi aujourd'hui, n'est-ce pas ?
– Ah, oui, complètement. Quel est le fameux mythe du Golem . Cette créature que l'homme crée et qui en vient à dominer l'homme lui-même. Eh bien, j’appelle cela des théories théotechnologiques. Parce que dans la tradition de Feuerbach ou même de Marx , la question est de savoir comment cette créature, qui est la divinité qui crée l'homme, finit par dominer l'homme, n'est-ce pas ? Le Golem s’inscrit donc quelque peu dans cette ligne de pensée. Et c'est pourquoi, lorsque Gershom Scholem analyse le mythe du Golem, il analyse que dans ce texte cabalistique apparaît pour la première fois une formule qui est « Dieu est mort ».
– Nietzsche.
– Bien sûr, ça va le populariser et, en réalité, c'était déjà là, dans le mythe du Golem et toute cette réflexion sur cette créature créée par l'homme qui finit par devenir le seigneur de l'homme. Et ce qui nous fait un peu peur aujourd'hui – et à juste titre – c'est que l'intelligence artificielle finisse par nous dominer . Chez Marx, par exemple, sa réflexion sur les machines, sur cet aspect, est complètement ambivalente. D'une part, Marx pense que la machine est un élément de libération des travailleurs, car elle les libère du travail aliénant, mais en même temps, elle est une forme de domination des travailleurs car elle enlève aux artisans qui avaient une savoir.faire , un métier , qui savait faire, qui avait des secrets de fabrication, ces ouvriers, qui avaient un travail hautement qualifié, vont historiquement perdre face au travailleur quantitatif grâce à la machine.
— Vous avez dit qu'il était raisonnable que nous soyons agités, c'est-à-dire que la question des machines est inquiétante. Votre livre est assez équilibré en ce sens, il n’est pas alarmiste, peut-être parce qu’il remonte plus loin, non ? Mais je souhaite vous poser des questions sur les plus grandes préoccupations du présent. Les travaux vont-ils vraiment être terminés ? Les machines seront-elles vraiment au centre et pas nous, les humains ?
— Eh bien, terminer le travail serait une bonne nouvelle.
– Oui, bien sûr (rires) . Le problème est de savoir de quoi nous vivons.
– Ce serait génial. Ce serait une bonne nouvelle. Nous parlons bien sûr de travail aliénant. Que les humains puissent se consacrer à un travail plus intellectuel et plus créatif. Cela en philosophie a toujours été le but, l'utopie philosophique par excellence . Mais dans ce cas, si les machines se mettaient à travailler pour nous, elles seraient nos esclaves et alors il n’y a rien de mal à asservir les machines. C'est en principe le mythe du robot de Karel ÄŒapek , l'écrivain tchèque, qui a créé la pièce RUR ., et qui a inventé le mot robot. C'est justement la révolution des robots contre les humains. Mais la question est de savoir ce qui se passe si nous commençons à travailler pour les machines, alors nous avons déjà un problème, n'est-ce pas ?
– La figure de Norbert Wiener, inventeur du concept de cybernétique, apparaît beaucoup dans votre livre. Pourquoi pensez-vous que Wiener n’est pas si connu ?
– Ah oui, je ne sais pas. Disons que oui, ce n'est pas une figure populaire bien qu'il soit bien connu dans le monde scientifique. Parce que, eh bien, il a inventé non seulement le concept mais aussi la discipline cybernétique elle-même. Mais oui, effectivement le mot avait plus de succès. Cybernétique, cyborg, cyberespace : le mot a eu plus de succès que la personne, ce n'est pas si mal au final que les concepts triomphent des auteurs mais en fait Norbert Wiener a été un peu éclipsé, sur le plan historique. De plus, dans le livre, je raconte un peu l'histoire de Wiener et de son père, qui est l'histoire très, très intéressante d'un émigré juif polonais qui part aux États-Unis. Wiener est un personnage vraiment fascinant. Son père aussi.
« Oui, ce qui est inquiétant et qu'il faudra sûrement contrôler d'une manière ou d'une autre, même si je ne sais pas comment, c'est la production d'une réalité virtuelle complètement fausse, ce qui est déjà en train de se produire. Lorsque l’intelligence artificielle produit des photographies ou même des vidéos complètement fausses qui circulent, elle produit de l’opinion, elle génère de l’opinion, et elle a aussi la capacité d’inonder le monde de ces matériaux. C’est-à-dire qu’elle peut se transformer sans contrôle en opinion et dans les sociétés démocratiques, qui dépendent de l’opinion des individus pour prendre des décisions, ce phénomène est évidemment extrêmement inquiétant. Le phénomène des fausses nouvelles nous interroge déjà sur la relation entre démocratie et vérité , car jusqu'à présent, on supposait qu'il existait une élite qui, d'une manière ou d'une autre, était chargée d'établir certains paramètres de vérité pour le public, parmi lesquels les journalistes. a évidemment joué un rôle de premier plan. Ces paramètres de vérité éclatent en quelque sorte, avant même l'intelligence artificielle, avec les fausses nouvelles et les « faits alternatifs » , comme Kellyanne Conway , la conseillère de Trump, au début de son gouvernement. Le problème est que désormais, celle qui va créer les faits alternatifs est l’intelligence artificielle.
« J'ai l'impression que votre prochain livre devrait traiter du concept de vérité, parce que ce qui commence vraiment à exploser, c'est ça. Quelle est la vérité aujourd’hui ? Car on ne parle plus de la façon de voir les choses ou des différentes approches que peuvent avoir les humains, mais plutôt des vérités parallèles qui vont commencer à exister.
– Bien sûr, si la vérité est censée être la correspondance entre un énoncé, un discours et un état de choses, si l’intelligence artificielle est capable de produire cet état de choses, bien sûr artificiellement, alors les énoncés vrais vont être liés à cela. la vérité, non ? Une photo de Greta Thunberg voyageant dans un avion circule, censée trahir tout ce qu'elle prêche, ce qui suscite une grande indignation et, bien sûr, la photo était fausse. Mais entre-temps cela circulait, cela provoquait une grande indignation et les haters professionnels qui circulaient sur les réseaux n'arrêtaient pas de l'insulter, etc. Eh bien, c'est extrêmement inquiétant. En d’autres termes, la question est de savoir ce qui va arriver à la démocratie.
– Parce que les grandes archives Internet continuent aujourd’hui de conserver ces fausses nouvelles même après qu’elles ont été démenties. Puis, là-bas, j'ai réfléchi au paradoxe d'un futur où soudain la seule vérité continue d'être préservée de manière non virtuelle, dans les livres papier des bibliothèques. Tant qu'ils ne disparaissent pas.
– Bien sûr, bien sûr. Tant que cela est préservé, oui, oui. Là, la vérité était toujours une interprétation des faits, non ? Bien entendu, les faits ne sont pas une vérité en eux-mêmes, ils doivent toujours être interprétés. Mais les faits existaient et la référence à ces faits pouvait justement être photographiée ou filmée. Donc ces faits existaient. Après, bien sûr, il fallait interpréter ce qui se passait là-bas et cela était toujours controversé. Mais ces faits existaient. Maintenant, le problème est que des faits peuvent aussi être créés. C'est le petit détail.
« Ce dont vous parlez est également intéressant, c'est ce qui arrive à notre tête, à notre façon de penser et à notre mémoire, maintenant que nous disposons d'une mémoire externe qui nous assiste en permanence. Dans quelle mesure cette mémoire externe, qui facilite les choses, nous empêche-t-elle réellement d’exercer notre mémoire comme nous le devrions, n’est-ce pas ?
– Oui, je crois que c'est déjà une réalité irréversible. D'une certaine manière, l'histoire de l'humanité est l'histoire des supports de mémoire . Nous sommes passés des rouleaux, des papyrus aux livres. Les vagues des grandes révolutions, du passage du Moyen Âge à la Modernité, n’étaient pas seulement de la poudre à canon, non seulement de la boussole, mais aussi de l’imprimerie. Et visiblement nous vivons aujourd’hui la deuxième grande révolution, le passage du livre au virtuel. C'est la deuxième grande révolution. Et de la même manière que ce passage à l’imprimerie a permis l’apparition de choses comme le protestantisme et, finalement, la science moderne et l’accès d’une grande partie de la population aux livres, aujourd’hui cette révolution s’est déjà installée. Nous avons déjà dépassé la galaxie Gutenberg il y a des années. Il faut donc voir quelles en sont les conséquences. Le problème est que si l’on ajoute à cela la création d’une réalité alternative, de faits alternatifs, comme l’a dit ce conseiller de Trump. Eh bien, là, nous allons voir quelles sont les conséquences et il est évident que cela va avoir des conséquences sur le type de gouvernement que nous allons avoir.
– Oui, et sur le mode de vie. Parce que ce n’est pas seulement que nous perdons désormais moins de temps à essayer de nous souvenir du nom de quelqu’un ou de quelque chose parce que nous prenons le téléphone et le trouvons, le problème est de savoir comment cela influence ou influencera l’humanité. Je suis resté calme en disant : eh bien, je ne vais plus le voir. Mais oui, nous le voyons.
« Oui, oui, ceux d'entre nous qui pensaient ne pas le voir… Et cela nous arrive dans plusieurs domaines. Je pense qu'il y a toujours eu, c'est quelque chose que Freud a montré en quelque sorte, l'idée qu'une explication qui nous semble vraie est une explication satisfaisante. Cela signifie que pour nous, ce qui nous procure du plaisir mental est vrai, d’une certaine manière. Alors là, on continue avec le principe du plaisir.
« Comme cette image que vous donnez est bonne, car, en même temps, elle explique une grande partie de la polarisation, n'est-ce pas ?
- Bien sûr. Autrement dit, cela a toujours existé, c'est-à-dire que je conçois que ce qui me satisfait mentalement est vrai.
– Confirmation de partialité.
– Exactement, c'est une confirmation de parti pris. Cela fait déjà partie de notre tendance narcissique à répéter nos hypothèses, nos histoires de base. Quand on ajoute à cela le fait que nous pouvons vivre dans un monde connecté, les bulles filtrantes, comme on les appelle, nous permettent d’avoir accès aux informations et aux images qui confirment nos budgets. Nous pouvons vivre chacun dans notre propre monde alternatif, complètement séparés les uns des autres, et c’est aussi ce qui génère l’impossibilité du débat démocratique. Parce que le débat démocratique reposait sur l’idée que nous débattions des mêmes faits et que maintenant nous parlons chacun de faits différents. Parce que chacun vit dans son propre monde alternatif.
– Dans votre livre, il est possible de lire l’histoire de nombreux concepts qui, selon nous, ont toujours existé. Vous venez de parler du mot robot, mais vous expliquez constamment d'où viennent des mots comme économie ou despote, par exemple. J'imagine que si vous aviez vécu à une autre époque, votre table serait pleine de papiers et maintenant peut-être que, grâce à la technologie, ils sont remplacés, mais combien de temps vous a-t-il fallu pour travailler sur un livre comme celui-ci et comment organisez-vous le structure d'un livre comme celui-ci ?
– Oui, eh bien, ce sont des lectures depuis de nombreuses années, c'est vrai. D’ailleurs vous avez peut-être remarqué que j’émigre beaucoup, je ne reste pas longtemps sur un sujet. Pour moi, comme le disait Deleuze , il faut réfléchir à ce qui justement choque nos habitudes de pensée. Alors, quand il y a quelque chose qui interroge, on dit : « mais qu’est-ce que c’est, qu’est-ce qui se passe ici ? Et c'est ce que j'aime enquêter. Il m'a fallu quatre ou cinq ans pour écrire ce livre. Mais j'ai rassemblé le matériel depuis que l'idée est apparue, c'est-à-dire il y a longtemps. Il y a un texte de 2010, je cherchais justement sur internet, dans lequel j'écris sur ce sujet parce qu'il y réfléchissait déjà. La question de la cybernétique, et Wiener et etc. Il faut s'immerger. Faites toute une carrière de recherche, lisez à ce sujet pour produire quelque chose qui ne soit pas simplement ce pessimisme prophétique qui a envahi les études technologiques. Curieusement, la gauche – qui a toujours cherché à conquérir l’avenir – a désormais une image totalement apocalyptique de l’avenir, dont elle ne fait que profiter à l’extrême droite. C'est lamentable. La gauche doit proposer une fois de plus un avenir possible pour l’humanité et pour le peuple, car sinon nous sommes perdus.