Le cas récent d'un juge du travail du circuit de Carthagène qui a utilisé l'outil ChatGPT pour rédiger une partie de la motivation d'une peine de tutelle en deuxième instance est très préoccupant car cette intelligence artificielle (IA) n'est pas fiable et parce que son utilisation n'était pas adaptée.
C'est ce qu'a déclaré Juan David Gutiérrez , professeur à la Faculté d'études internationales, politiques et urbaines de l'Universidad del Rosario, expert en gouvernance de l'intelligence artificielle, soulignant qu'il n'est pas capable d'offrir la meilleure réponse sur n'importe quel sujet. consulté.
"En raison du type de données à partir desquelles ChatGPT a été formé et de la façon dont ce modèle de langage fonctionne à grande échelle, l'outil a tendance à offrir des réponses imprécises, incorrectes et qui incluent de fausses informations", a expliqué Gutiérrez.
Il a souligné que ChatGPT a tendance à inventer des informations et des sources d'information – telles que des réglementations et des décisions légales inexistantes – lorsque le support à partir duquel il répond aux questions est consulté.
"Ce n'est pas vrai que ChatGPT est capable d'offrir la meilleure réponse sur un sujet consulté, la seule chose que l'outil peut faire est de prédire la probabilité d'une chaîne de mots compte tenu du contexte qui le précède, c'est-à-dire la requête que l'utilisateur fait », a noté l'universitaire.
Comme ChatGPT lui-même l'avertit, il s'agit d'un outil très limité et comme l'a reconnu le PDG de ChatGPT, Sam Altman , en décembre 2022, "c'est une erreur de s'y fier pour quoi que ce soit d'important en ce moment... il nous reste beaucoup de travail à faire en termes de solidité et de véracité ».
Pour le professeur Gutiérrez, il est positif que l' État colombien cherche à intégrer les technologies émergentes dans les processus, mais il est essentiel de s'assurer que l'utilisation de l'IA est informée, éthique, adaptée et responsable compte tenu des risques que ces outils présentent.
Il a souligné que ce qui s'est passé avec la condamnation du juge de Carthagène qui a utilisé ChatGPT est l'occasion d'ouvrir un dialogue national nécessaire sur les utilisations appropriées de l'IA dans les affaires où les droits des personnes sont en jeu, a déclaré le professeur.
En outre, Gutiérrez a invité le pouvoir judiciaire à "concevoir des guides méthodologiques pour l'application de l'IA dans le système judiciaire et à renforcer la formation des juges et des auxiliaires de justice sur ces questions".
L'intelligence artificielle et ses risques
L'intelligence artificielle (IA) est utilisée consciemment ou inconsciemment par des milliards de personnes chaque jour. Les entreprises et les gouvernements du monde entier investissent des ressources importantes pour développer de nouveaux outils et applications dans différents domaines.
"En Colombie, par exemple, le gouvernement a utilisé l'IA qui traite des images satellites pour identifier et cartographier les routes tertiaires sur tout le territoire national et pour prédire le recensement de l'indice de pauvreté multidimensionnelle (MPI), " a déclaré le professeur de la Faculté des études internationales, Politique et Urban de l'Universidad del Rosario.
Cependant, il a averti que certaines utilisations des outils d'IA peuvent créer de sérieux risques. À son tour, il a souligné que ces risques se sont déjà matérialisés dans différents pays du monde, comme les Pays-Bas et les États-Unis , où l'utilisation inappropriée d'outils présentant des défauts structurels a généré des dommages et des violations des droits fondamentaux des personnes.
La polémique du maire de Medellín pour l'utilisation de ChatGPT
Un autre personnage qui a utilisé ChatGPT ces jours-ci est le maire de Medellín, Daniel Quintero Calle, et bien sûr, il a généré une controverse sur les réseaux sociaux. Via Twitter, il a montré une capture d'écran montrant deux questions que le président d'Antioquia a posées au célèbre outil sur la politique des hydrocarbures promu par le gouvernement de Gustavo Petro dirigé par la ministre des Mines et de l'Énergie, Irene Vélez. .
Dans le tweet Daniel Quintero écrit : « Que pense l'intelligence artificielle de la nouvelle politique pétrolière en Colombie ? , et partagé une capture d'écran.
Dans la capture d'écran, vous pouvez lire la première question qui dit : "Le pétrole peut-il être mauvais pour un pays ?" , auquel l'IA a répondu :
« Oui, selon la manière dont il est géré, le pétrole peut avoir des effets négatifs pour le pays. Alors que le pétrole peut être une source importante de revenus et d'emplois, en plus de l'extraction et de l'utilisation, il peut également contribuer à la corruption, aux déséquilibres économiques et sociaux et à la dépendance économique vis-à-vis d'une seule industrie. De plus, l'extraction et l'utilisation du pétrole peuvent avoir des effets négatifs sur l'environnement. Par conséquent, il est important que les pays adoptent des pratiques responsables et durables dans l'industrie pétrolière ».
La deuxième question que Quintero lui a posée dans ChatGPT était "que penseriez-vous si un gouvernement suspendait l'exploration pétrolière pour contribuer à la lutte contre le changement climatique" , à laquelle l'IA a répondu :
"En tant que modèle de langage formé par OpenIA, je n'ai pas d'options personnelles, mais je peux dire que la suspension de l'exploration pétrolière peut être considérée comme une mesure importante contre le changement climatique. Le pétrole est une source majeure d'émissions de gaz à effet de serre, contribuant au réchauffement climatique et au changement climatique. Par conséquent, limiter la production de pétrole et rechercher des sources d'énergie plus durables est un élément important de la solution pour lutter contre le changement climatique ».
Mais l'AI a également mis en garde contre les conséquences économiques et sociales : « s'assurer que des mesures adéquates soient mises en place pour indemniser les personnes et les communautés qui dépendent du pétrole ».