Dans l'univers en constante évolution de l'Intelligence Artificielle , de plus en plus de personnalités analysent les implications et les conséquences dans l'éducation, le travail et la société. Catalina Nosiglia est secrétaire des affaires académiques à l'Université de Buenos Aires (UBA) et dans cette interview tenue à l'auditorium Ticmas , elle a parlé avec Patricio Zunini de la manière dont les universités abordent cette nouvelle technologie.
Il convient également de noter qu'entre mai et juillet, Nosiglia a organisé une série de débats sur l'IA au Centre d'innovation technologique et pédagogique (CITEP) de l'UBA, auxquels ont participé des personnalités de différentes disciplines, telles que Samuel Cabanchik , Pablo Rodríguez et Esteban Ierardo .
— Quel est le rôle des universités autour de l'Intelligence Artificielle ?
— L'intelligence artificielle, soit dit en passant, ne commence pas avec ChatGPT , mais il convient de noter qu'elle a mis la question à l'ordre du jour. C'était une discussion qui avait déjà lieu dans les universités, mais pas encore à la télévision et à la radio. Et c'est une vertu importante de ce chat. La particularité de l'université est sa contribution à la société : elle est la production, la transmission et le transfert des connaissances à la société. Et chose cruciale pour que l'université puisse produire de l'information, elle doit se développer dans un espace de liberté académique et d'autonomie vis-à-vis de l'État et du marché...
— L'exigence de tout développement scientifique.
« Au fait. Pourquoi est-ce que je fais tout ce chemin ? Le premier point que je veux souligner, c'est qu'il y a certaines voix critiques sur l'affaiblissement de l'enseignement des sciences humaines face à la technologie à l'université, un affaiblissement qui, rappelant Martha Nussbaum , peut conduire à la violation des droits de l'homme, à des problèmes en termes de démocratie, ou tout simplement à la liberté individuelle de prendre des décisions. L'affaiblissement des humanités et de la réflexion philosophique, en quelque sorte, aurait pu anticiper une discussion sur l'usage de l'intelligence artificielle.
— Est-ce une discussion, alors, que les sciences humaines et sociales devraient donner ?
« Les sciences humaines sont la voix critique qui alerte sur l'utilisation abusive même des connaissances produites à l'université. Il y a beaucoup de voix critiques. Ronald Barnet dans The Limits of Competition souligne que jusque dans les années 1970, les connaissances produites à l'université avaient une valeur fondamentalement culturelle et une distinction sociale, puis elles ont commencé à avoir une valeur économique et d'usage. La connaissance est devenue une valeur instrumentale. Tout ce que je mentionne a à voir avec les problèmes posés par l'application et le développement de l'intelligence artificielle, car, d'une certaine manière, l'université était absente de l'anticipation de ce débat.
— Le savoir reste-t-il entre les mains des machines ?
« Je ne m'inquiète pas que la connaissance soit manipulée par des machines. Il faut différencier la science de l'application. Il faut continuer à produire de la science, et si la science est importante pour développer l'intelligence artificielle, je suis d'accord avec ce qu'a dit Chomsky , que la recherche ne doit pas s'arrêter. Dans tous les cas, une discussion éthique doit être menée sur l'utilisation des connaissances. C'est ce qui manquait et ce à quoi je me réfère. C'est l'affaiblissement des humanités dans les cursus au profit de la valeur d'usage du savoir. Bien qu'elle ait été discutée en cercles fermés, il n'y a pas eu de débat public sur les conséquences.
— Quel est le rôle de l'université maintenant ? Comment devez-vous intervenir ?
« Il y a deux éléments très importants dans les politiques universitaires des dernières décennies, qui ont changé le fonctionnement des institutions. D'une part, l'internationalisation : la nécessité d'être en contact dans un monde globalisé avec d'autres institutions universitaires. Et, d'autre part, le développement des réseaux universitaires. Nous, au Sud , n'avons pas les mêmes possibilités qu'au Nord . Un mécanisme pour aider et renforcer nos compétences consiste à nous associer aux autres. Voici pourquoi nous nous sommes associés à l' Université nationale autonome du Mexique pour le développement du premier laboratoire d'intelligence artificielle , ce que nous avons fait avant l'émergence de la discussion concernant ChatGPT.
— Cette association existe-t-elle depuis trois ans maintenant ?
« Je pense que c'est deux ans. Deux années au cours desquelles nous avons commencé à discuter de manière collaborative et interdisciplinaire des effets de l'intelligence artificielle dans le milieu universitaire. Nous nous concentrons sur l'enseignement, car je suis le secrétaire aux affaires académiques et c'est ma responsabilité. Nous avons pensé que la manière de contribuer de manière dense et profonde au débat était de nous associer à d'autres universités dans le contexte latino-américain.
— Quels livrables l'association a-t-elle ou produit-elle ?
« C'est une association qui se fait dans le cadre d'un réseau d'universités, appelé Macrouniversity Network , et nous travaillons au développement de laboratoires virtuels en partenariat entre l' UBA , l' UNAM et l' Université nationale d'Uruguay . Nous travaillons également sur une base de données de photographies numériques pour les laboratoires. Nous faisons tout en collaboration car il est très coûteux de produire chacun de ces développements technologiques, et les ressources des universités nous obligent à nous associer pour nous responsabiliser.
— Comment abordez-vous la question éthique en intelligence artificielle ?
—D'une part, avertissant des conséquences négatives que l'utilisation abusive de l'intelligence artificielle peut avoir dans des aspects tels que les droits de l'homme, la dignité de la personne, la liberté. L'affaiblissement de la démocratie vient non seulement du fait de ne pas encourager la pensée critique et participative, mais aussi de la diffusion d'idées ou de croyances fausses, qui peuvent modifier les préférences politiques des gens. Et au sein de l'université, le débat porte sur « l'intégrité académique », qui indique quels comportements sont attendus des enseignants et des étudiants en termes d'honnêteté et d'équité. ChatGPT aborde des problèmes historiques tels que le plagiat, la copie, le vol d'identité. Il est important d'alerter et de former les élèves et les enseignants sur les comportements appropriés. Et aussi les aider à bien citer, pas à plagier. D'un autre côté, j'ai vraiment aimé autre chose que Chomsky a dit. Il a dit qu'un étudiant passionné par le savoir ne va pas se copier lui-même, mais plutôt qu'il va essayer de le construire lui-même.
— Ce qui conduit à une révision des pratiques pédagogiques : comment faire en sorte que les élèves se sentent plus impliqués dans l'objet d'apprentissage.
« Au fait. Mais ceux qui se préoccupent de ces questions ne sont pas des éducateurs : ce sont des philosophes, des anthropologues, des sociologues. Les pédagogues recherchent des usages qui peuvent nous aider à planifier, à prendre de meilleures décisions. Même ChatGPT peut aider les étudiants à découvrir leurs erreurs ou à trouver une meilleure façon de résoudre les problèmes. Ce qui doit changer, c'est la façon dont il est évalué. Nous avons trouvé des solutions très différentes : revenir à l'évaluation traditionnelle, valoriser l'évaluation formative - vous savez comment évolue un étudiant et vous vous fichez du résultat dans une dissertation finale - utiliser les informations produites par ChatGPT pour une analyse critique, etc.
— Quels sont les axes de recherche qui sont développés ?
« L'intelligence artificielle et la recherche sont travaillées depuis longtemps dans notre université. D'abord, environ quatre métiers centraux, qui sont : Génie Informatique , Analyse des Systèmes , Licence Informatique et, notre fille cadette, qui est une Licence Data Science , qui vient d'être créée à la Faculté des Sciences Exactes , unissant l'informatique et les mathématiques. Autour de l'enseignement et de la production de connaissances, il y a des laboratoires d'intelligence artificielle et des centres de recherche. Cela se produit également dans les cours de troisième cycle sur ce sujet, qui, selon nous, devraient être élargis.
— Quel est l'impact de l'intelligence artificielle sur l'environnement ?
« Il y a quelque temps, je suis tombé sur un livre du Fondo de Cultura Económica , intitulé Atlas of Artificial Intelligence , de Kate Crawford . Je l'ai commencé en pensant qu'elle allait parler de la formation des algorithmes, de l'utilisation de l'intelligence artificielle pour l'enseignement, pour la recherche en santé, mais non : ce dont parlait cette auteure, c'est que, bien qu'on ait la représentation que l'intelligence artificielle est quelque chose d'éthéré qui est dans le cloud, c'est une technologie qui cause beaucoup de problèmes sur la planète. En raison de l'utilisation de l'énergie dont il a besoin pour traiter et stocker cette quantité de données, en raison de l'exploitation minière dont il a besoin pour les batteries, etc. L'intelligence artificielle a une matérialité et cette matérialité affecte non seulement la démocratie, comme je l'ai dit, mais affecte également l'environnement.
«Chaque fois que nous parlons de technologie, nous parlons de l'homme.
« Justement, dans le cycle d'entretiens que nous avons fait au CITEP , nous sommes partis d'un point de vue philosophique et la question que se posait Samuel Cabanchik était ce qui est propre à l'humain, ce qui nous différencie des machines. Dans sa réflexion, il a parlé des auteurs classiques, de Pico della Mirandola à Thomas Hobbes , qui, dans l'introduction du Léviathan , dit, se référant à l'État, que l'homme crée une nouvelle machine artificielle. Le problème de l'humain et de l'artificiel est présent depuis la philosophie très ancienne.
LIRE PLUS