L'intelligence artificielle est souvent associée à des promesses d'efficacité, de productivité et de développement technologique. Mais elle a également ouvert une nouvelle série de questions sur la responsabilité, la vie privée et la protection des droits individuels. Dans « Qui est responsable des dommages causés par l'intelligence artificielle ? », le dernier épisode de son podcast disponible sur Infobae et Spotify, Ricardo Lorenzetti explique ce qu'une personne peut faire lorsque un algorithme produit un dommage et quelles sont les outils juridiques disponibles pour se défendre.
« Il y a beaucoup de peur, un grand sentiment d'impuissance face à l'intelligence artificielle », dit-il. Cependant, le message de l'épisode va dans une autre direction. « Nous ne sommes pas impuissants. Il existe de nombreuses actions, de nombreux outils juridiques que l'on peut utiliser ».
La question de la responsabilité devient pertinente parce que les dommages causés par des systèmes automatisés ont cessé d'être abstraits. « Il peut y avoir des dommages causés par des algorithmes, des robots, des véhicules autonomes, des systèmes d'intelligence artificielle qui prennent des décisions », souligne-t-il. Le défi consiste à déterminer qui doit répondre lorsque ces décisions provoquent un préjudice concret dans la vie des gens.
Pour Lorenzetti, le droit dispose déjà d'instruments pour aborder ces problèmes. « Il n'est pas vrai que nous sommes dans un désert juridique », dit-il. La responsabilité, explique-t-il, peut s'appliquer à ceux qui conçoivent, développent, commercialisent ou utilisent ces technologies. « Il existe des principes juridiques qui existent déjà et qui peuvent parfaitement s'appliquer à ces nouveaux phénomènes ».
Un des risques les plus évidents apparaît en matière de discrimination. « Les algorithmes peuvent reproduire des préjugés et générer des situations discriminatoires très graves ». Un système de sélection de personnel, un mécanisme d'octroi de crédits ou un programme de reconnaissance faciale peuvent exclure des personnes ou prendre des décisions injustifiées sans que les personnes concernées ne sachent comment on est arrivé à ce résultat.
La question concerne également l'identité et la vie privée. « L'intelligence artificielle peut traiter d'énormes quantités de données et reconstruire des profils complets des personnes », dit-il. Cette capacité d'organisation et d'analyse de l'information ouvre de nouvelles formes de pouvoir et de contrôle sur le comportement humain.
Dans ce contexte, les entreprises technologiques occupent une place centrale dans le débat. « Ceux qui introduisent un produit risqué dans la société doivent assumer des responsabilités », affirme-t-il. L'idée reprend un principe classique du droit des consommateurs : ceux qui tirent des bénéfices économiques d'une activité doivent également assumer les risques qu'elle engendre.
La conversation s'arrête également sur la prévention. « Il ne s'agit pas seulement de réparer le dommage une fois qu'il est survenu ». La possibilité d'adopter des mesures préventives, de demander des informations, de réaliser des audits ou de suspendre certaines pratiques apparaît comme un outil de plus en plus important face au développement de systèmes automatisés.
Le sujet, insiste Lorenzetti, n'est pas une discussion réservée aux spécialistes. « Cela affecte la vie quotidienne de millions de personnes ». L'utilisation d'algorithmes pour accéder à un emploi, obtenir un crédit, engager un service ou recevoir des soins médicaux fait de l'intelligence artificielle un phénomène qui traverse des décisions fondamentales de la vie quotidienne.
La relation entre utilisateurs et plateformes digitales pose également de nouveaux défis. « Souvent, les gens acceptent des conditions qu'ils ne connaissent pas et fournissent des informations sans être conscients des conséquences ». Cette asymétrie entre de grandes entreprises technologiques et les consommateurs rend encore plus pertinent le développement de mécanismes de protection et d'accès à la justice.
Tout au long de l'épisode, il est clair que, pour Lorenzetti, l'intelligence artificielle n'est pas un territoire sans règles. « Le droit a une énorme capacité d'adaptation ». La tâche, soutient-il, consiste à appliquer des principes déjà existants à de nouveaux problèmes et, lorsque cela est nécessaire, à développer des outils supplémentaires pour répondre aux défis de l'ère numérique.
Le progrès technologique génère de l'incertitude, mais cela ne signifie pas que les gens doivent se résigner à l'impuissance. « L'important est de savoir qu'il existe des actions et des mécanismes pour revendiquer », conclut-il. Connaître ces outils, souligne-t-il, est une condition indispensable pour protéger la liberté, l'identité et les droits dans une société de plus en plus traversée par l'intelligence artificielle.
Tous les lundis à 9 heures, un nouvel épisode du podcast de Ricardo Lorenzetti sur Infobae et Spotify.