Mais cette fois, pour son deuxième livre, Vivas entre en terrain inconnu. Invisible , publié par Sudamericana, mélange sept histoires de science-fiction avec dix principes pour bien comprendre l'intelligence artificielle et son impact sur nos vies. Ainsi, dans Invisible , par exemple, il y a un robot sur le point de devenir de la ferraille et un petit-fils qui tente de le sauver, une personne dont l'identité a été effacée de tous les enregistrements numériques, un pays gouverné par des machines , des scientifiques qui découvrent un mécanisme pour voyager en arrière. avec le temps, un garçon fatigué du harcèlement entraîne un robot pour l'aider à l'école.
L’intelligence artificielle peut-elle conduire à l’extinction de l’humanité ou au contraire conduire à des améliorations significatives ? Les humains auront-ils la capacité de contrôler l’IA ou assisterons-nous à un changement de rôles ? Sous forme de fictions engageantes, pleines d’humour et pleines de clins d’œil nostalgiques à un passé analogique, sans ton apocalyptique ni optimisme excessif, les histoires, concepts et principes d’Invisible postulent un équilibre très intéressant entre le dystopique et l’utopique.
"Invisible" (fragment)
Lois asimoviennes : littérature, technologie et éthique
Un ensemble de principes éthiques formulés par l'écrivain de science-fiction russo-américain Isaac Asimov en 1942 est connu sous le nom de lois d'Asimov .
Ces lois ont été présentées pour la première fois dans son histoire « Runaround », traduit en espagnol par « Vicious Circle ». Cependant, ce qui est le plus intéressant, c’est que ce système juridique de base a transcendé la littérature pour inspirer des débats sur la réglementation de la robotique et, en particulier, de l’intelligence artificielle dans le monde de la non-fiction, et qu’il est devenu influent dans ces discussions.
Mais pour les comprendre, il faut d’abord explorer le contexte dans lequel ils ont émergé. Asimov et d'autres écrivains de science-fiction, tels qu'Arthur C. Clarke ou Ray Bradbury , ont cherché à établir certaines idées ou notions éthiques et scientifiques à travers leurs récits littéraires. Vers les années 1940, en pleine Seconde Guerre mondiale et compte tenu des conséquences de la Grande Guerre, il y avait un certain ressentiment face aux effets des progrès technologiques et scientifiques. Le gaz, les sous-marins, les véhicules et les avions ont été utilisés à la fois pour le bien et pour les massacres les plus sombres et les plus cruels dans le contexte de la guerre. Et c’est pourquoi des penseurs, des scientifiques et des intellectuels ont commencé à émerger et ont proposé une réglementation éthique de la technologie.
En tant que professeur de biochimie, Asimov était conscient des dégâts que le progrès scientifique pouvait causer dans la société, et ce phénomène l'a probablement inspiré à imaginer ses célèbres lois de la robotique , qui s'énonce comme suit :
1. Première loi : un robot ne peut pas nuire à un être humain ni, par inaction, permettre qu'un être humain subisse un danger.
2. Deuxième loi : un robot doit obéir aux ordres donnés par les humains, sauf si ces ordres entrent en conflit avec la première loi.
3. Troisième loi : Un robot doit protéger sa propre existence dans la mesure où cette protection n'entre pas en conflit avec la première ou la deuxième loi.
Depuis leur introduction, les lois d'Asimov ont suscité des débats et des réflexions au sein de la communauté scientifique, philosophique et technologique. Comment garantir que les machines agissent de manière éthique ? Qui est responsable si un robot cause des dommages malgré les lois ? Comment le besoin de contrôle s’équilibre-t-il avec le développement de l’autonomie des robots ?
Ce ne sont là que quelques-unes des questions qui ont commencé à se poser dans les décennies qui ont suivi la popularisation des lois d'Asimov. Or, au sein de ces débats, il existe également des positions qui comprennent que ces lois sont obsolètes face aux nouveaux défis qu'implique la montée de l'intelligence artificielle, surtout après la première décennie du XXIe siècle. Les lois, par exemple, n’abordent pas la question de la conscience et des émotions dans les machines.
Que se passe-t-il si vous créez un robot doté de capacités cognitives et émotionnelles avancées ? Comment cela affecterait-il l’interprétation et l’application des lois ? D’un autre côté, cela peut aussi nous amener à nous demander si les gouvernements et les institutions publiques devraient établir des réglementations fondées sur des principes éthiques similaires aux lois asimoviennes sur l’intelligence artificielle.
Aujourd’hui, alors que l’IA et la robotique sont de plus en plus présentes dans notre quotidien et qu’elles s’intègrent profondément dans des domaines comme la santé, les transports, la communication ou la défense, de nouveaux débats émergent autour de la sécurité et de la responsabilité des actions des machines, ou encore de la relation entre robotique et emploi . Certaines positions soutiennent que si l’incorporation de l’intelligence dans le monde du travail génère une vague massive de licenciements et de chômage, cela pourrait peut-être être interprété comme un dommage que les robots causent à l’humanité et, par conséquent, violerait ces principes éthiques.
D’autres positions soutiennent que le paradigme juridique asimovien est beaucoup plus lié à la robotique du milieu du XXe siècle, principalement en abordant le monde du physique, du répétitif et de la force. Ce cadre juridique peut être intéressant pour réfléchir à la robotique industrielle classique, mais il serait peut-être obsolète pour analyser des modèles d’intelligence artificielle travaillant sur des aspects créatifs, par exemple.
Les lois de Clarke
Arthur C. Clarke, en plus d'être une ressource pour les conférences de Facundo Beltrán , était l'un des écrivains de science-fiction les plus importants et l'un des scientifiques les plus importants de son époque. Culturellement, il nous a laissé 2001 : L'Odyssée de l'espace et Rendez-vous avec Rama , l'un des plus grands représentants de ce que l'on appelle la science-fiction dure, un sous-genre de la science-fiction dans lequel abondent les données techniques et scientifiques.
La légende raconte que, dans les années 1960, son éditeur et traducteur français a répertorié certaines de ses déclarations et les a compilées en maximes ou en adages. C'est-à-dire des déclarations courtes et énergiques sur un sujet spécifique. Ces concepts se reflétaient dans différents écrits et romans, et pouvaient se résumer en trois axiomes :
1. Lorsqu’un scientifique distingué mais âgé prétend que quelque chose est possible, il a presque certainement raison. Lorsque vous dites que quelque chose est impossible, vous vous trompez probablement.
2. La seule manière de découvrir les limites du possible est de s'aventurer un peu au-delà vers l'impossible .
3. Toute technologie suffisamment avancée ne peut être distinguée de la magie.
Quant au premier axiome, il pourrait, en première lecture, signifier une sorte d’ode à la jeunesse. Mais rien ne pourrait être plus éloigné de cela. Ce que Clarke cherche à capturer est une sorte de rappel de la nature changeante des connaissances scientifiques et technologiques .
Tout au long de l’histoire, nous avons été témoins de nombreuses avancées considérées à l’époque comme utopiques, voire fantaisistes. De l'idée de voler comme des oiseaux à l'alunissage, l'humanité a constamment remis en question ce qui était autrefois considéré comme impossible . Le premier axiome de Clarke souligne ensuite l’importance de garder un esprit ouvert, réceptif aux nouvelles idées et découvertes.
À cette première loi, dans un croisement plus qu'intéressant, Isaac Asimov a ajouté un corollaire : Cependant, lorsque le public profane manifeste autour d'une idée, qui est dénoncée par des scientifiques distingués mais âgés, et soutient cette idée avec beaucoup de ferveur et d'enthousiasme, le Après tout, des scientifiques distingués mais âgés ont probablement raison.
Le second d’entre eux rend ce concept beaucoup plus clair. Pour les écrivains de science-fiction et les vulgarisateurs scientifiques comme Clarke, l’idée de « l’impossible » est une chose à laquelle ils doivent constamment faire face. Parce que ses concepts, scénarios, récits et fondements se retrouvent dans un monde que nous ne connaissons pas aujourd’hui. Et d’une manière générale, l’inconnu est, en quelque sorte, rejeté par l’esprit humain. Nous avons tendance à croire, presque par préjugé de survie, que le monde sera toujours tel que nous le connaissons. Et il lui est impossible de se transformer. Cette idée convient aussi bien à ceux qui se fixent pour objectif d’atteindre la Lune, de construire des véhicules volants ou de mettre en œuvre des systèmes d’intelligence artificielle dans une PME. La capacité à repousser les limites de ce qui est possible est une compétence clé pour le leadership du futur , selon la logique de Clarke.
Enfin, la loi peut-être la plus célèbre, citée par Beltrán dans sa conférence, est étroitement liée au point précédent, même si cela ne semble pas être le cas à première vue. Nous pouvons être convaincus que quelque chose est impossible jusqu’à ce que nous le voyions sous nos propres yeux. Une fois que cela se produit, nous courons le risque de croire que ce que nous venons de voir n’est que le résultat de la magie. En d’autres termes, nous continuons de croire que cela est impossible selon les normes humaines.