À l'époque de la quatrième révolution industrielle , où le pouvoir semble appartenir aux algorithmes - ce rêve qui semble parfois magique et parfois quelque chose de pervers -, diverses voix cherchent à aborder les conséquences et les impacts de cette nouvelle réalité. L'une de ces voix est celle de Cecilia Danesi , avocate et titulaire d'un Master en droit de la responsabilité délictuelle ayant étudié en Argentine , en Espagne , en Italie et en France . Danesi est chercheur à l' Institut d'études européennes et des droits de l'homme (UPSA) et professeur à l' Université pontificale de Salamanque .
En tant que référence de premier plan dans le domaine, elle traite de l'intelligence artificielle avec une approche qui n'est pas celle d'un technologue, mais celle d'un spécialiste qui soulève la nécessité d'un débat éthique avec une perspective plus large et plus profonde. . Dans son livre L'empire des algorithmes : une IA inclusive, éthique et au service de l'humanité (Ed. Galerna), Danesi aborde cette nouvelle technologie qui évolue géométriquement et qui semble venir modifier les relations dans toutes les sphères - personnelles , travail et éducation.
Danesi part de trois aspects fondamentaux : la perspective de genre , la revendication de l' identité ibéro-américaine et l'humanisme technologique . Le résultat est une brillante réflexion qui, à travers des cas réels et quotidiens, évite de tomber dans les simplifications et les binarismes, loin à la fois du sentiment d'apocalypse et de la passivité conformiste.
"Récemment, il y a eu cette supposée lettre pour arrêter l'intelligence artificielle", raconte Cecilia Danesi désormais en dialogue avec Ticmas, "qui, à mon avis, semblait hypocrite car beaucoup de ceux qui ont signé la lettre sont les premiers développeurs de cette technologie".
- Mais peut-on l'arrêter ?
« Ce que je dis dans le livre, c'est que la balle va continuer à tourner, mais qu'il faut s'asseoir pour étudier et débattre de ce phénomène, car ce n'est pas un phénomène comme les autres. Ce n'est pas comme la blockchain . C'est un changement de paradigme dans notre façon de vivre. Il a un impact sidéral sur la vie des gens. Elle doit être abordée, étudiée, travaillée de manière interdisciplinaire. Il faut une régulation qui doit aussi se construire de manière interdisciplinaire. Essayons de construire une technologie la plus inclusive possible et non un outil qui intensifie les écarts sociaux.
- Dans un chapitre, vous dites que quelqu'un qui n'a jamais eu de contact avec l'intelligence artificielle l'a fait mais ne s'en est pas rendu compte. Dans quelle mesure cette transparence nous affecte-t-elle ?
« Cette imperceptibilité face à la technologie est ce qui la rend plus dangereuse, car l'innocence de croire que nous ne l'utilisons pas signifie que nous ne pouvons pas être conscients de ses dangers . "Pourquoi vais-je m'occuper de quelque chose dont je ne connais pas l'existence". Il faut se prévenir et soigner l'intangible plus que le tangible. Avec la technologie et plus particulièrement avec l'Intelligence Artificielle, cela arrive.
« Quel serait le risque ?
"Rester dans la lignée de l'intangibilité - parce qu'on parle d'arme autonome ou d'avoir une puce dans la tête, eh bien on est sur autre chose maintenant - les algorithmes des réseaux sociaux et des plateformes numériques nous conditionnent" . Le contenu que nous voyons parvient à polariser nos positions. C'est le dommage le plus dangereux que nous ayons, car c'est ce que nous ne pouvons pas voir, mais il est là. Il n'y a aucune prise de conscience dans la population à ce sujet.
— Comment le travailleur est-il protégé contre les innovations de l'intelligence artificielle ? Lorsque, dans les années 80, la robotique est apparue dans l'industrie automobile, il y a eu un grand débat sur le rôle des robots à la place des ouvriers. Aujourd'hui l'intelligence artificielle commence à occuper des espaces transversaux. Comment fait-on pour qu'il n'y ait pas d'humains « jetables » ? Je pense que c'est le terme qu'utilise Harari.
" " Inutile. Harari a déclaré que l'intelligence artificielle allait créer un groupe d'humains inutiles. Eh bien, comment est-ce fait. D'abord par la prise de conscience. Et deuxièmement, avec l'éducation. Cette révolution industrielle, c'est aussi de nouveaux emplois. Data Science , Informatique , programmation : elles sont tellement demandées que l'offre ne la couvre pas. En fait, il y a des gens de disciplines connexes qui finissent par travailler dans ces disciplines précisément parce qu'ils ne peuvent pas suivre. Que pouvons-nous faire? Formez-les pour qu'ils puissent occuper ces nouveaux emplois. Je crois que les personnes qui auront plus d'opportunités à l'avenir sont celles qui parviennent à améliorer leurs compétences grâce à la technologie. Ils vont avoir le bien de l'humain et le bien de la technologie.
— Mais que fait-on des gens formidables, pour qu'ils ne deviennent pas obsolètes ?
—Ce que vous proposez est super intéressant. Et je l'élève aussi pour un jeune ou un adolescent, car la plupart de ce que nous étudions aujourd'hui à l'école et dans les cours universitaires demain sera obsolète . Les programmes d'études sont encore dépassés face à cette nouvelle réalité. Je pense que cela nous interpelle tous. Laissez-moi vous parler de mon cas : j'ai eu une carrière super-traditionnelle dans le monde juridique, j'ai travaillé dans les tribunaux, j'ai enseigné à l'université - je le fais évidemment toujours, mais avec un sujet qui est l'intelligence artificielle - et quand j'ai commencé à me spécialiser en IA, pour moi c'était du chinois mandarin avancé. Moi, ayant étudié le droit à l' UBA , j'ai essayé de voir ce qu'était un algorithme. Ce défi est donc présent dans toutes les générations. Évidemment, lorsque vous serez plus âgé, il vous sera peut-être plus difficile de vous adapter à ce changement. Mais bon ou mauvais, c'est inévitable.
— Dans le livre, vous parlez des liens entre l'intelligence artificielle et la jurisprudence et la médecine. Comment l'intelligence artificielle qui résout plus efficacement les litiges et détecte les maladies possibles avec plus de certitude affecte-t-elle les médecins et les avocats ?
« C'est un débat crucial. Voulons-nous, en tant que société, que des tâches aussi délicates que rendre la justice ou faire un diagnostic soient faites par un algorithme et non par un humain ? Je demanderais qui le fait mieux. Si l'algorithme a moins de marge d'erreur dans la détection du cancer sur une radiographie, j'opterai pour l'algorithme . Nous revenons donc à la question de l'amélioration des capacités humaines dans des tâches spécifiques où l'intelligence artificielle ne peut pas être plus compétente que nous . Laissons le système s'occuper d'une déclaration, d'une succession, ce que même une personne totalement inexpérimentée peut faire en quelques jours. Et laissez les juges et les avocats traiter des questions qui nécessitent de l'empathie ou de la conscience. Ce n'est pas un remplacement total, mais le remplacement de certaines tâches que, dans de nombreux cas, nous ne voulons pas effectuer.
- Plus tôt, je parlais de la robotisation dans l'industrie automobile et de la façon dont la force des hommes a été laissée entre les mains des robots. Désormais, c'est l'intelligence qui reste entre les mains de l'intelligence artificielle. Que reste-t-il aux humains ?
« Le premier point est de dire ce que nous entendons par intelligence. Non seulement il n'y a pas de consensus, mais, en fait, il existe des tests sur les sept intelligences et différentes aptitudes. Être intelligent, c'est faire un calcul mathématique plus rapidement ou être intelligent, c'est avoir les compétences pour parvenir à une négociation, à un meilleur accord ou résoudre un conflit ? Il y a beaucoup de tâches super sensibles et délicates que l'humain garde , pour ainsi dire. Nous avons besoin de cette sensibilité humaine, mais aussi, ce qui reste, comme je l'ai déjà dit, c'est de nous responsabiliser grâce à la technologie.
— Vous parliez tout à l'heure de certains changements forcés dans le programme éducatif. Comment l'intelligence artificielle affecte-t-elle l'éducation ?
« Beaucoup et sous divers aspects. Premièrement, quel contenu enseignons-nous ? Pour moi il est inconcevable qu'un avocat soit reçu sans étudier les réseaux sociaux , les plateformes numériques , le e-commerce , l'intelligence artificielle , la blockchain , les crypto-monnaies , les contrats intelligents . Aujourd'hui, ces matières ne sont pas obligatoires. Et deuxièmement : comment enseigne-t-on ? À l'époque, il y avait une protestation des professeurs de mathématiques contre l'utilisation de la calculatrice, et aujourd'hui, nous voyons exactement la même chose avec ChatGPT . Ce qui m'importe, c'est que lorsque mon élève sera dans un contexte de travail, il devra savoir utiliser ce que je lui enseigne. Et il va avoir ChatGPT et il va avoir la calculatrice. Donc, je dois lui apprendre à utiliser ces outils pour qu'il puisse développer ses compétences de la meilleure façon possible. C'est un énorme défi pour nous les enseignants : qu'enseignons-nous, comment enseignons-nous, comment évaluons-nous. Nous devons nous mettre à jour à la réalité que nos étudiants ont et que le monde a.
LIRE PLUS