Le rôle de l’intelligence artificielle (IA) dans le domaine scientifique a révolutionné la façon de faire de la science. Grâce à cela, le travail dans la recherche scientifique a été facilité et optimisé, depuis l'automatisation des processus, l'analyse de grandes quantités de données ou de modèles, jusqu'aux nouvelles façons de gérer, créer et examiner d'innombrables ressources.
Les progrès technologiques ont permis de faciliter l’interaction homme-machine grâce à la mise en œuvre de commandes (invites), sans avoir besoin de connaissances en programmation avancée.
Cependant, l’utilisation de l’IA dans le domaine scientifique (ainsi que dans de nombreux domaines) suscite des inquiétudes. par exemple, l'intégrité de la recherche, l'utilisation des données et la confidentialité, entre autres. L’éthique devient donc un impératif pour créer des lignes directrices sur l’utilisation honnête et responsable de l’intelligence artificielle.
L’IA comme moteur de la recherche scientifique
Actuellement, l’IA est considérée comme un outil essentiel dans les efforts scientifiques. Parmi le groupe d'activités qui peuvent être réalisées avec cette technologie dans le domaine de la recherche, on distingue les suivantes :
- l'écriture académique
- Gestion, analyse, modélisation et interprétation des données
- Préparation des tableaux et des images
- Révision (ton, style, etc.), traduction et paraphrase
- Simulation
- Trouver et organiser des ressources
- Générateur de titres et de mots-clés.
À cette fin, l'Université Galileo a créé le guide « Comment utiliser ChatGPT pour la recherche scientifique : invites efficaces ». Ce manuel pratique, didactique et robuste se concentre sur la création d'invites spécialisées pour améliorer la recherche scientifique grâce à l'IA générative.
Ces outils et d'autres stimulent le progrès dans le domaine de la recherche, qui, au fil du temps, s'améliorent dans la conception, le développement et le déploiement pour garantir des versions mises à jour et optimisées pour les utilisateurs finaux de ces instruments technologiques.
Selon Rocael Hernández-Rizzardini , directeur du GES (Galileo Educational System) de l'Université Galileo :
« La diversité des outils d'IA générative offre aux chercheurs d'aujourd'hui une technologie permettant d'accélérer divers processus scientifiques, dont beaucoup étaient auparavant réalisés avec une assistance informatique de base, mais des capacités sont désormais fournies pour une analyse contextuelle approfondie rapide, reliant des informations auparavant dispersées et aidant les différents processus d’enquête avec l’IA.
Il est donc essentiel de proposer des stratégies reposant sur une base éthique et juridique afin que les processus et les connaissances scientifiques elles-mêmes ne soient pas affectés par les implications de l’IA, perpétuant ainsi le progrès de la science et le bien-être de l’humanité.
Recommandations pour la mise en œuvre de l’IA dans la recherche
Ce sont les recommandations préparées par le Groupe de recherche interdisciplinaire R4C-IRG : Pensée complexe pour tous et l'Unité de technologie éducative de l'Institut pour l'éducation du futur (IFE) sur l'utilisation de l'IA générative dans le travail scientifique :
- Garantir l’intégrité scientifique et éthique lors de l’utilisation de l’IA dans la recherche : elle doit être considérée comme un outil auxiliaire, mais pas comme une solution définitive
- Assurer la confidentialité des données personnelles et respecter la réglementation mondiale en matière de protection des données : cela doit être fait tout au long du processus de leur utilisation.
- Réaliser une analyse critique des données générées par l'IA : en reconnaissant ses limites techniques et l'influence de la qualité des invites sur les résultats.
- Vérifier et valider rigoureusement les informations obtenues : s'assurer de la validité et de la pertinence des résultats, et assumer la responsabilité de leur interprétation et de leur application.
- Documenter en détail les méthodes et outils utilisés : préciser clairement la paternité et le degré de contribution de l'IA aux résultats de la recherche.
- Agir activement pour identifier, réduire et éviter les biais dans la recherche : promouvoir une utilisation pleine et responsable de cette technologie.
- Restez continuellement informé des avancées de l’IA : diversifiez l’expérimentation des outils et encouragez leur utilisation créative et efficace dans la recherche.
- Procéder à des révisions et adaptations périodiques de la réglementation sur l’IA : l’alignement continu des principes éthiques avec l’intégrité scientifique doit être assuré.
- Favoriser la collaboration interdisciplinaire pour enrichir le partage des connaissances : exploiter la synergie entre l’IA et la connaissance humaine.
- Partagez activement les sources d’IA pertinentes pour la recherche et formez d’autres chercheurs sur leur application efficace.
Il est important de souligner que l’intelligence artificielle elle-même contient un environnement fluctuant, de sorte que sa conception, son développement et sa mise en œuvre continueront de croître, ainsi que l’adaptation des lignes directrices éthiques. Il est inévitable de penser que cette technologie ne pénètre pas toutes les sphères qui concernent l’être humain.
En ce sens, Nacho Despujol, de l' Université Polytechnique de Valence , mentionne ce qui suit :
"L'évolution des outils d'intelligence artificielle est entrée dans une phase de croissance exponentielle, ce qui signifie que quiconque n'est pas prêt à les intégrer sera considérablement désavantagé dans un laps de temps très court, mais, comme tout nouvel outil puissant, son utilisation inappropriée comporte des risques importants, il est donc essentiel de jeter les bases adéquates pour démarrer correctement le plus tôt possible.
Par conséquent, la manière de mener la recherche a été reformulée grâce à l'IA , il est donc nécessaire de réfléchir et d'agir sur les implications éthiques que cela implique.
Éthique, science et IA
Pour comprendre le domaine de l’éthique et de l’intelligence artificielle (éthique de l’IA), il faut comprendre un concept qui a jeté les bases de cette nouvelle discipline : l’éthique des machines ou moralité des machines.
Cette notion fait référence à la création et à l'adhésion de machines à des principes éthiques lors des processus de prise de décision. Il aborde les questions du statut moral des machines , c'est-à-dire si elles doivent se voir attribuer des droits légaux et moraux. Son essence est interdisciplinaire et multidisciplinaire, celle-ci relevant du domaine de l'éthique technologique.
Pourquoi l’éthique est-elle importante en science ?
Les efforts visant à intégrer l'éthique dans le domaine technologique, et plus encore à une époque où les systèmes deviennent plus pragmatiques, automatiques et intelligents, sont dus au fait qu'il existe un besoin de réglementation et d'action face à une grande variété de nouveaux défis. , dont les suivants :
- Confidentialité et surveillance
- Manipulation du comportement
- Opacité et manque de transparence
- Biais (systématiques, modélisation, exclusion, interprétation, etc.)
- Interactions homme-machine
- Impact sur le domaine du travail
- Éthique des machines
- Statut moral des machines/systèmes intelligents
- Singularité technologique
Intégrations éthiques
Il existe de multiples modèles qui cherchent à intégrer l’éthique dans le domaine des machines et systèmes intelligents :
Dans la recherche scientifique
L’intégration de l’intelligence artificielle dans la recherche scientifique fait surgir de nouveaux dilemmes éthiques et d’intégrité qui doivent être étudiés en profondeur. De même, l’impact que peuvent avoir les biais des algorithmes sur les connaissances scientifiques doit être analysé.
Miguel Morales , directeur du domaine de l'éducation numérique à l'Université Galileo , explique que :
« La mise en œuvre de l’IA dans la recherche doit être guidée par des principes éthiques solides, qui garantissent l’intégrité, l’équité et la responsabilité à toutes les étapes du processus d’enquête. Ce n’est qu’alors que nous pourrons pleinement faire confiance aux résultats générés et à leur capacité à contribuer positivement à la société.
Ainsi, pour répondre à ces défis éthiques (biais, intégrité, responsabilité, etc.), les systèmes intelligents doivent donner la priorité à ce que leur développement et leur conception soient axés sur la transparence, ainsi que sur leur capacité à être explicables (IA explicable) et auditables.
Además, se debe considerar el término de la gobernanza ética de la IA (AI ethical governance), puesto que se requieren lineamientos y reglas que puedan ser flexibles y adaptables para guiar el desarrollo e implementación responsable y exitoso de la tecnología, asegurando el progreso y la connaissance.
L'intégration de l'éthique dans la recherche scientifique est un processus qui nécessite une collaboration dans divers domaines. Cela exige donc une approche axée sur l’éducation, la transparence, la responsabilité et la participation proactive.
L’impact de l’IA sur les publications scientifiques
Les institutions et les équipes de recherche doivent tenir compte des nouvelles normes et lignes directrices éditoriales sur l’utilisation de l’IA dans la recherche, puisque chaque éditeur a des degrés d’acceptation et d’utilisation différents dans ses publications. Ceci afin de promouvoir la légalité, l’éthique et l’intégrité du travail scientifique.
Il est impératif d’actualiser et de comprendre ces nouvelles modifications afin que les chercheurs connaissent la portée et les limites de l’usage de l’IA pour certaines maisons d’édition scientifique.
L’objectif de cette réglementation délimite la préoccupation de la communauté scientifique dans la recherche de cadres juridiques, éthiques et d’intégrité au sein de la recherche sur l’IA.
L’intégration de l’IA à la science est un vaste domaine qui doit être exploré et utilisé à des fins bénéfiques pour l’humanité. La responsabilité, la transparence, ainsi que les principes éthiques et académiques sont requis pour son déploiement en faveur de la recherche, aligné dans le cadre de la légalité.
Il ne faut pas non plus oublier que, grâce à sa croissance exponentielle, il faut avoir un esprit flexible, capable de suivre le rythme de ses progrès et des changements que cela peut apporter au domaine scientifique.
Une version précédente de l'article a été publiée dans l'Observatoire de l'Institut pour l'avenir de l'éducation du Tecnológico de Monterrey.