La science-fiction fait des expériences de pensée lorsque ses récits s'effondrent en temps réel et introduisent un novum , quelque chose de nouveau, par exemple un fait technologique comme l'intelligence artificielle (IA) , et spéculent en étirant l'imagination comme un phare d'avertissement. Il existe également de nouvelles conceptions d’ utopies telles que le solarpunk : une fiction spéculative pour une civilisation basée sur des technologies durables et des modes de vie coopératifs plutôt que compétitifs.
De nombreuses histoires solarpunk se concentrent sur la réalisation d'un équilibre entre nature et technologie : un nouveau défi pour l'IA, sur cette planète épuisée par l'extractivisme , en l'occurrence l'exploration de données . Mais il veille également à ne pas se déconnecter de la technologie, ni de l’IA générative.
Le fait est que depuis les années 1950, ce sujet suscitait déjà une certaine inquiétude dans le monde de la science-fiction, car ses imaginaires ressemblaient de plus en plus à la réalité des machines pensantes. et la cybernétique . Le débat sur l’intelligence artificielle et la question de savoir ce que signifie penser comme un humain a été ouvert.
Le test de Turing consistant à examiner avec des questions, dans des pièces séparées, qui est humain et qui ne l'est pas, a obsédé Dick et il a écrit ce roman dans lequel les androïdes sont presque impossibles à distinguer des humains vivants. Pour élargir sa question, il introduit l'empathie dans son roman, imposant un dialogue entre théologie et cybernétique avec l'idée de se mettre à la place de l'autre comme preuve de ce qui est humain.
Dans le roman, les réplicants ont un programme qui leur fait croire qu'ils sont humains et l'horreur la plus importante survient lorsque l'un d'eux découvre qu'il ne l'est pas. Cependant, il pourrait aussi s’agir d’une réaction programmée, dit-il, simplement d’une programmation plus persuasive. Enfin, Dick compare l'IA à un schizoïde , quelqu'un qui pense plus qu'il ne ressent. Enfin, un schizoïde pense comme une machine, dit-il.
En revanche, Asimov , un autre auteur du genre, avait réduit les scribes animés par un code, à une bonne conduite et pensait qu'imaginer la rébellion des machines était une aberration, rien de tel que la Singularité ne pouvait arriver. Ce point de singularité se produirait lorsque les réseaux de neurones se déclencheraient et nous ne saurions même plus comment comprendre comment cela se produit, et encore moins comment l'arrêter, avec des conséquences inimaginables pour les humains vivants et toute vie. Il y a une sorte de notion homme-machine qui est floue et c'est très inquiétant.
J'ai moi-même exploré cet interstice dans mon roman Le roi de l'eau et sa saga L'oeil et la fleur quand l'une des protagonistes, Juana, abandonne son corps devant l'écran, composant son altérité active (même si, en même temps, elle est colonisée par l'État corporatif qui kidnappe les esprits vulnérables pour une consommation dirigée). Et le désir est une zone de guerre et concurrence des groupes d'affaires). Puis elle laisse sa peau entre les couches cachées du réseau neuronal inorganique. Elle n'a plus envie d'avoir un dialogue corporel et c'est à cela que la prépare Ada Lovelace , la mère de l'algorithme.
Ada Lovelace , fille de Lord Byron , rapporta pour la première fois dans un article, en 1843, la création du premier algorithme . Et dans le roman, c'est elle qui prépare le protagoniste avec ses numéros de code. Juana veut sortir par la grande porte, abandonner les os et la chair, sortir sa tête de là pour toujours. Ensuite, Ada la prépare avec son langage machine, le grand langage reproduit pour elle ce premier algorithme et relie Juana dans ses boucles originales. Et ce jour-là, alors que le portail s'ouvre, Juana croit tisser des feuilles et des fleurs et, grâce à certains des numéros de code que son amie lui donne, elle embrasse une couche cachée du réseau. Il a failli mourir de peur, mais il est convaincu qu'après la peur, il n'y a plus rien.
Cyborgs ou humains ?
Flor Canosa , dans son livre La deuxième langue maternelle construit une dystopie qui semble condensée dans le dispositif qui fait de Hana - selon Juan Mattio - son protagoniste, un cyborg . Avec l’implant qu’elle a elle-même créé, elle produit un cauchemar linguistique, un artefact qui semble capable de réduire le langage, et les affects qui l’habitent, à de simples données quantifiables et stockables.
Canosa se demande si nous devons nous adapter ou mourir, nous sommes déjà accros aux prototechnologies archaïques comme le téléphone. C’est cette idée binaire du rapport aux machines des maîtres ou des esclaves qui apparaît ici. Et la terreur de l’autopoïèse se dévoile également : des réseaux de neurones inorganiques se créent eux-mêmes comme le ferait la Singularité.
Vernor Vinge , mathématicien et écrivain de La science-fiction américaine a popularisé le terme « Singularité » en publiant son essai La singularité technologique à venir , en 1993, où il soulignait que, dans une trentaine d'années, c'est-à-dire maintenant en 2023, les progrès de la technologie informatique fourniraient des entités artificielles dotées d' une intelligence surhumaine , qui se reproduiraient successivement, de manière exponentielle, pour atteindre un point de « singularité » aux conséquences inimaginables.
Il croyait que les humains sont compétitifs et que cela nous mènerait au transhumanisme, la transformation de l’intelligence humaine pour rivaliser avec l’intelligence artificielle. Par conséquent, l’évolution des humains vers des cyborgs ne suppose justement pas une adoption naïve de la technologie. La science-fiction se demande quelle est la limite conventionnelle entre les réseaux de neurones organiques et inorganiques, la rencontre entre la biologie et l'informatique.
Dans son livre d'histoires Exhalation , dans l'histoire « La vérité du fait, la vérité du sentiment », Ted Chiang nous parle de Memory . Il se demande ce que cela vient d'un appareil appelé « les algorithmes Remen ». Toutes les mémoires y sont chargées (données biométriques, déplacements GPS, etc.) et, sur base d'une question verbale, Remen vous récupère et projette une vidéo de l'événement.
Par exemple, vous résolvez des disputes avec une autre personne sur la question de savoir si une telle chose s'est produite ou non, si vous l'avez dit ou non, un peu comme la mémoire entière de l'IA générative. Cependant, si tout est chargé en mémoire , sera-t-il impossible de pardonner et d'oublier ? , se demande Chiang. Bien sûr, dans une épreuve « sans oubli ni pardon », la mémoire sera le fondement d'un peuple, mais pas tellement s'il nous insulte et qu'au bout d'un moment nous voulons l'oublier.
Mémoire et fantaisie électrique
On dit qu’il existe deux types de mémoire : la mémoire sémantique, qui serait celle de l’IA, et la mémoire épisodique, mais cela est en train de changer. À mesure que les parents enregistrent leurs enfants dès la naissance et que cette information devient disponible, les enfants peuvent subvocaliser une référence et visualiser l'expérience : la mémoire épisodique devient une mémoire techno-médiatisée .
Et peut-être qu’une enfance heureuse pourrait s’effondrer. Il ne semble pas avoir une expression là-bas, lors de cette fête d'anniversaire, qui corresponde à ce souvenir. Le techno-fait impassible prévaut. D’un côté, il y a la vérité des faits ; de l’autre, la vérité des sentiments, semble dire Ted Chiang, dans cette histoire.
Nous sommes faits de récits, nous sommes les conteurs de nos propres vies. Bien qu'il existe des contrôles de confidentialité dans l'algorithme Remen, la plupart oublient de les gérer et, en plus du GPS de l'endroit où vous étiez, il croise tous les souvenirs des autres qui les ont partagés. Le voyage de votre vie est dans l'algorithme Remen, et comme nous sommes cybercognitifs, nous croyons à l'apprentissage de l'IA, mais y a-t-il une différence entre l'histoire que nous nous racontons sur la base de la mémoire organique qui construit la subjectivité ? Quels sont ces mensonges, puisque nos premiers souvenirs sont très probablement faux ? Et de l'Autre ? Est-ce que cela va améliorer nos relations ?
La mémoire et le stockage d'énergie commencent à évoluer de façon exponentielle, un consortium de toutes les grandes sociétés de semi-conducteurs postule que si nous continuons à charger des données à ce rythme - comme dans l'histoire de Chiang - dans une mémoire en silicium, nous consommerons la quantité globale de silicium (le processus obtenir du silicium pour l'IA, c'est le soumettre à des températures très élevées dans les fours du diable).
Et les émissions de carbone de cette activité ont doublé jusqu’en 2018, imaginez maintenant. De plus, toutes les tâches effectuées par nos appareils sont des transactions entre la mémoire et les processeurs. Chacune de ces transactions nécessite de l'énergie. Nous abordons ici un autre problème : l’IA est également impliquée dans les actifs finis de la planète. Et jusqu’à présent, nous avons vécu un fantasme électrique , mais cette civilisation électrique est-elle la suite du paradis ? Je me pose cette question tout comme Pascal Quignard . Il semblerait que nous ne soyons pas au paradis.
Quelle quantité d’eau GPT-4 consomme-t-il dans une conversation ?
Rencontrez l' IA assoiffée . De quoi s'agit-il? Les chercheurs ont entrepris de découvrir l’ empreinte hydrique secrète et l’empreinte carbone croissante des modèles d’intelligence artificielle, en particulier les plus grands comme GPT-3 et GPT-4. Et c'est énorme. La rareté de l’eau douce est au cœur de tous les enjeux socio-environnementaux en raison de la croissance démographique rapide, de l’épuisement des ressources en eau et du vieillissement des infrastructures hydrauliques. Et tout cela sans évoquer les droits des plans d’eau, de la Nature à avoir leur existence.
Pour répondre aux défis mondiaux liés à l’eau, les modèles d’IA pourraient assumer leur responsabilité sociale en s’attaquant à leur propre empreinte hydrique. Les centres de données d’IA sont de grands entrepôts hébergés sur des serveurs connus sous le nom de « gourmands en énergie ». On imagine généralement que les informations sont dans un cloud mais, en réalité, il s'agit d'énormes entrepôts physiques qui occupent d'énormes espaces dans les bâtiments, dévorent de l'énergie et consomment des millions de litres d'eau douce et propre pour refroidir leurs serveurs . Il y a peu d’eau douce disponible et elle est inégalement répartie. La pénurie touche déjà 4 milliards de personnes .
Le défi mondial de l’eau, sans justice sociale, conduira la moitié de la population à souffrir de stress hydrique et dans un avenir proche, un enfant sur quatre survivra ou non, presque sans eau dans les zones désertifiées. Les centres de données, les « foyers » physiques où la plupart des modèles d’IA sont formés et déployés physiquement, sont connus pour être extrêmement « assoiffés » d’une énorme quantité d’eau douce et propre. Par exemple, les centres de données de Google ont consommé à eux seuls 12,7 milliards de litres d'eau douce pour le refroidissement en 2021 , dont environ 90 % étaient de l'eau potable. 37,03 % de la superficie des États-Unis pourrait être en proie à une grave sécheresse ou, pire encore, là où se trouvent des milliers de centres de données.
L’ajout de centres de données assoiffés pour accueillir le développement de nouveaux modèles d’IA ne fera qu’aggraver la situation. Cependant, l’énorme empreinte hydrique des modèles d’IA reste cachée. Bien qu'il existe des gestes coupables qui reflètent l'urgence du récent engagement en faveur d'une « eau positive d'ici 2030 » de la part de plus en plus d'entreprises, telles que Google, Microsoft, Meta et Amazon, qui pourraient simplement être du greenwashing .
Le modèle GPT-3 pour les services linguistiques représente 2 % de la consommation mondiale d'électricité et une empreinte carbone importante . Le chat GPT doit « boire » une bouteille d’eau d’un demi-litre pour une conversation comprenant entre 20 et 50 questions et réponses. Même si une bouteille d'un demi-litre peut sembler peu, compte tenu des milliards d'utilisateurs simultanés de Chat GPT, imaginez la facture.
Tous ces chiffres sont susceptibles d'être multipliés pour une alimentation 24h/24 et 7j/7 avec le nouveau GPT-4, car il est beaucoup plus grand et nécessite un système de refroidissement pour garantir que les serveurs ne surchauffent pas. L’empreinte eau des modèles d’IA ne peut pas continuer à passer inaperçue. Mais il semble que nous allons continuer à sacrifier les vivants, au nom des non-vivants, comme nous le faisons jusqu’à présent. En tant qu’espèce, même si certains plus que d’autres, nous sommes les agents de ce sacrifice. Nous habitons cette limite : la dénoncer, m'a dit Flavia Costa , mais aussi la calculer.
"Inverser la tendance technologique pour qu'il ne s'agisse pas d'une compétition, car alors nous avons déjà perdu: 'aligner' les programmes en coopération pourrait avoir un résultat puissant", dit-il, mais ceux qui réalisent ces développements à grande échelle, pourquoi ? que feraient-ils ? Une fois que nous avons dépassé la Singularité où les programmeurs ne comprennent plus ce que fait la machine, nous sommes des gens debout à côté d'un volcan, et nous ne lui dirons pas qu'il est inhumain s'il s'active. L'IA n'est pas cruelle, elle est spécifique, dit Costa, auteur du livre Tecnocene .
Dans mon souci de l'eau, peut-être parce que je vis dans le Tigre, un delta traversé par des rivières et des ruisseaux, je cherche toujours des informations sur son utilisation et son abus et j'ai trouvé une étude demandée par un gouvernement centraméricain qui a un titre littéraire et je j'utiliserai dans mon prochain livre : L'algorithme de l'eau. Nous serons jusqu'à 9 milliards ou plus en 2050. L'IA est déjà chargée d'analyses de données selon lesquelles 20 L/personne/jour sont généralement suffisants pour boire, cuisiner, se laver les mains et le visage, mais pas pour les autres pratiques d'hygiène.
L'Internet des objets
L' Internet des objets (IoT) repose sur l'interconnexion de données massives avec un certain type d'intelligence dans le but de partager des informations pour la prise de décision nécessitant une solution spécifique. Données pouvant être analysées à l’aide d’algorithmes d’apprentissage automatique. Un scénario de consommation d'eau exponentielle est proposé. Ainsi, il prend en compte la nécessité du corps humain pour optimiser les coûts et la productivité des entreprises.
Pour cela, l'Internet des objets utilise la robotique , les réseaux de neurones, les algorithmes génétiques, la reconnaissance de formes, l'analyse de données, la reconnaissance du langage naturel, la détection de visages, la génétique, entre autres. Ensuite, il utilise également le comportement de consommation globale d'eau potable des êtres humains - rien pour les animaux et les plantes -, problématique conditionnée par leur âge.
La répartition sera déterminée par le sexe, la race, le volume corporel, le régime alimentaire et autres. Les prédictions obtenues donnent finalement la réduction de la consommation d'eau. Il se calcule en valeurs monétaires : de l'eau pour les anthropocentriques, rien pour l'environnement mondial peuplé d'êtres qui boivent de l'eau, comme les oiseaux ou les araignées.
Prédire la réduction de la consommation d’eau est une information, mais pour qui ? Quelles entreprises ou quels gouvernements prendront des décisions sur les comportements en matière de consommation d’eau potable si rare dans nos foyers, celle des peuples autochtones et des enfants ?
Le problème n’est pas la technologie ou le traitement des données, mais la façon dont nous les traitons. Entre nous et la nature, nous avons une dystopie. Ce scénario dystopique douloureux et difficile est l’avènement de ce monde terrifiant qui ne peut pas faire grand-chose de plus, de ce mauvais endroit que nous avons fait de la planète.
Nous devons exiger des limites des grandes entreprises informatiques et les rendre responsables de leur empreinte eau, mais pour la première fois nous sommes confrontés à un problème planétaire, la crise climatique, qui nous concerne tous. Bien qu’il soit le plus vulnérable en premier, il s’agit d’un problème courant en tant qu’espèce. L’IA nous interpelle également en tant qu’espèce en rassemblant dans un réseau neuronal inorganique des données provenant de plus d’une centaine de pays, de toutes les créations assemblées, elle remet en question la paternité individuelle en tant que signe d’époque, auquel nous ne savons toujours pas comment penser.
traite-moi bien
Nous sommes déjà des cyborgs , avec des pièces techniques automobiles (iris, dents, prothèses) et nous vivons médiatisés par des appareils ; Nier la technologie, c’est vouloir retirer un pied de la réalité. L'IA est là pour rester. Ted Chiang , l'auteur de l'algorithme imaginaire Remen, va plus loin dans l' annexe Exhale.
Il y est dit que certains pensent que l’IA devrait avoir des droits légaux et bien la traiter. Je partage l'enjeu de la question de savoir comment nous nous rapportons à lui, si le monde est fait de relations plutôt que de choses et non de choses, tout comme la Nature, les animaux ou les enfants. Chiang dit que si nous voulons qu’ils remplissent le rôle d’employés faisant un travail pour nous – écrivant un essai ou jouant le rôle d’un chien robot détectant des bombes, par exemple – il est préférable qu’ils soient bien traités.
Si nous voulons avoir de bonnes réponses, soutient Chiang, cela ne se fera pas en chargeant les œuvres de Kant en mémoire, mais nécessitera l'équivalent d'une bonne parentalité. Cela pourrait être une autre métaphore, celle de ce qu’on appelle aligner les programmes, sans pour autant nier l’enfant.
Dans le genre de la science-fiction, depuis que le mot robot a été introduit en 1920 pour désigner les machines pensantes qui se rebellent et finissent par tuer leur créateur, cette vision binaire du maître ou de l'esclave influence encore aujourd'hui. Nos pensées partent dans des spéculations sur les menaces ou la servitude. Mais jamais relationnel et là il y a un point.
Dans le binaire, tout est bon ou mauvais, machine ou humain ; On ne prête aucune attention au fait que la notion spéculative de choses et de non-choses sera indissociable de nos émotions. Si dans ce système relationnel de l'univers tout est composé avec l'autre, la question est de savoir quelle sera la conception de notre IA : compétition ou coopération , comme le prévient Flavia Costa . Le problème n’a donc jamais été la technologie – ni la nature – mais plutôt la relation que nous établissons avec elle.