L'utilisation de l'intelligence artificielle (IA) dans la prise de décision sur les questions de justice a suscité un débat intense en Colombie, en raison d'une affaire survenue en janvier 2023, dans laquelle un juge de Carthagène a utilisé ChatGPT comme outil pour statuer sur le droit à la santé et à une vie digne d'un enfant autiste, dont la famille souhaitait que la prise en charge du mineur soit exempte de l'EPS.
Le tribunal de grande instance a entre les mains l'examen d'une tutelle dans laquelle l'intelligence artificielle (IA) a été utilisée pour prendre la décision judiciaire, et met sur la table la discussion sur les limites et les utilisations possibles de cette technologie dans le système. Le Médiateur a demandé d'établir un contrôle à cet égard, soulevant des questions sur la portée de l'IA dans le domaine juridique.
Qu'est-ce que la Cour étudie à propos de l'IA ?
L'affaire sélectionnée pour examen se concentre sur la requête adressée par le juge Manuel Padilla à ChatGPT concernant un mineur autiste. Parmi les questions posées figuraient si l'enfant était exempté du paiement des frais de modérateur dans ses thérapies, si l'exigence de ces frais constituait un obstacle à l'accès au service, si la Cour constitutionnelle avait rendu des décisions favorables dans des cas similaires et dans quelles situations cela était pertinent accorder des tutelles.
Parmi les demandes pour limiter l'usage de l'IA dans la justice , figure celle du Médiateur. L'entité a présenté une insistance à la Cour pour que l'affaire soit réexaminée, car elle considère que l'utilisation d'outils tels que ChatGPT doit avoir des limites et des contrôles "afin que l'administration de la justice et les individus soient protégés". Pour le Médiateur, sa pétition est consciente qu'il existe actuellement des règles qui visent à faciliter l'accès à la justice et l'exercice des juges, mais cela "n'implique pas que n'importe quelle TIC puisse être utilisée sans discernement" ou qu'"elle puisse être appliquée sans contrôle ni règlement , (...) donnant lieu à une éventuelle violation du droit à un procès équitable ».
ChatGPT pour une décision judiciaire
Pour résoudre en deuxième instance, le juge Manuel Padilla a consulté ChatGPT, en utilisant la loi 2213 de 2022, qui vise à intégrer les technologies de l'information et de la communication (TIC) dans les processus judiciaires.
Réponse de ChatGPT était clair : « Oui , c'est exact. Conformément à la réglementation colombienne, les mineurs diagnostiqués autistes sont exemptés du paiement des frais de modération pour leurs thérapies. Cette prestation est réglementée par la loi 1753 de 2015 et s'applique à toutes les institutions qui fournissent des services de santé publics ou privés qui reçoivent des ressources du système général de santé de la sécurité sociale ».
L'AI soulignait à l'époque que "s'il est démontré que le droit à la santé du mineur autiste est affecté par l'obligation de payer les honoraires du modérateur, il est probable que l'action de tutelle sera accordée et l'institution prestataire sera condamnée des services de santé se conforment à l'exemption. Cependant, chaque cas est unique et la décision finale dépend des faits et des circonstances spécifiques de l'affaire ».
Le juge Padilla a déclaré dans une interview de février 2023 avec El Heraldo , que ce qu'il cherchait était d'optimiser le temps dans l'élaboration des peines et qu'elles renforcent les décisions judiciaires des togados, pas qu'elles les remplacent.