Jeune, blanche, maigre, aux cheveux raides, aux traits classiques, habillée formellement, avec un crucifix au cou, agréable et discrète. Qu’il existe un animateur de télévision créé par l’Intelligence Artificielle n’est pas surprenant. Qu’elle soit hyper hégémonique et conforme à toutes les normes de beauté et stéréotypes de genre ne l’est peut-être pas non plus. Mais la non-surprise fait partie de la boîte à surprises de l’IA : elle reproduit d’anciens stéréotypes et ouvre de nouveaux risques. Quelle est l'avance si les nouveaux retards ?
Le profil du leader hégémonique révèle que l'artificialité renforce les canons artificiels créés par les femmes par la culture (pas artificiels ?) et que le machisme se reproduit dans les schémas formés pour que les femmes (aient moins de travail) et soient, encore, plus éloignées de l'écran. . Le machisme est artificiel même s’il n’est pas intelligent, mais il revendique l’intelligence depuis toujours. Mais la dernière vague technologique n’a pas été formée par la quatrième vague féministe, mais reproduit plutôt l’archétype d’il y a deux millénaires avec une technologie qui est censée être le dernier tournant de la communication du futur.
Le nom du présentateur fictif est une supposée influenceuse appelée Alba Renai . L'expérience générée pour animer une émission de téléréalité ( Survivors ) est un avatar poussé à l'extrême entre un être humain et le photoshop de création ou la dictature des filtres avec une peau sans taches ni rides, des vêtements sans plis, des corps sans restes (ni chair) et une extrême prolixité qui ne peut que produire de la frustration chez celui qui essaie de la comparer et une télévision moins réaliste et diversifiée (qui ne l'était plus), pas même avec des modèles de femmes éloignés de la réalité, mais avec l'irréalité de l'intelligence artificielle.
La journaliste Ana Requena , rédactrice en chef du genre chez ElDiario.Es et auteur du livre « Intensas », a averti que la présentatrice reproduit des modèles de beauté à la table « Vers l'égalité depuis les rédactions : perspective de genre, sources et langage inclusif », présenté au XXVe Congrès de Journalisme de Huesca , le 14 mars, modéré par la directrice de Público , Virginia Pérez Alonso et partagé avec Isabel Valdés, correspondante Genre à El País , dans lequel a été souligné l'importance de défendre la liberté d'expression, les paramètres journalistiques contre le machisme et -aussi- la possibilité de débat et de doute.
« Il existe déjà des entreprises qui créent leurs premiers journalistes (en forme de femme) dotés d'intelligence artificielle et, bien sûr, ils répondent aux canons esthétiques les plus prototypiques : des femmes jeunes, minces, jolies, agréables, aux cheveux longs. Si nous ne corrigeons pas les préjugés, l'utilisation de l'IA reproduira des stéréotypes et continuera à créer la norme de ce qu'il est souhaitable de voir », prévient Requena sur la multiplication du sexisme à travers la nouvelle génération de technologies qui répètent les mêmes choses qui ont été transmises à à travers la télévision, les magazines ou les manuels de douane de génération en génération.
«Je regarde cette image - pas cette personne, cette image - et je vois le monde, patriarcal, réduit à cette image dans ce qui a à voir avec ce que nous devons être. Avec comment nous sommes censés être. Avec ce qu'on nous a dit, nous devons être pour être désirables, aimés, valorisés, acceptés et donc visibles : des cheveux longs et raides, une peau blanche avec un certain bronzage et aussi lisse et douce, pas un pore, pas une marque, pas une seule asymétrie, mince, souriante, mais pas excessivement », a souligné Isa Valdés.
Et il a analysé : « Tous les mandats sociaux du point de vue masculin de la beauté féminine concernent la création d’images par l’Intelligence Artificielle comme ils le sont dans la publicité, la communication, l’art. Dans n'importe quelle partie. Un système généré à partir de la réalité existante et de l’apprentissage de ce qui est établi ne peut qu’avoir la même base sur laquelle il se nourrit. Mais l’IA n’est pas un organisme vivant et autonome, il y a des gens qui la nourrissent et l’utilisent. Ce sont ces gens-là, avec aussi leurs préjugés et leur socialisation, qui continuent de reproduire la même idée contraignante et irréelle de la beauté (occidentale aussi, d’ailleurs).»
Valdés a proposé : « Je crois que nous avons tous la responsabilité dans cette question, comme nous le faisons dans la vraie vie, chaque jour, de rejeter ce qui, en réalité, ne nous représente pas et nous opprime. Être belle, être parfaite : qu'est-ce que c'est et pour qui et dans quel objectif. Les modèles de genre liés à qui vous êtes et à ce que vous valez aux yeux des autres en fonction de votre niveau de désirabilité sont l'une des questions ayant la plus grande capacité à asservir les femmes et de manière plus continue, plus répandue et transversale.
Au-delà du débat sur le présentateur, l'IA présente des défis au sein du journalisme . Les nouvelles technologies ont occupé une place centrale au XXVe Congrès de journalisme de Huesca, organisé par l'Association des journalistes d'Aragon, en Espagne. Les expériences, les débats, les normes et les risques ont été les protagonistes des présentations, des questions, des peurs et des changements déjà présents dans la manière de consommer l'information et qui prédisent un avenir de désinformation sans demi-mesures (et sans encre). .
"Même si elle fait peur et panique, l'IA est la porte d'entrée vers la transformation", a déclaré Carmen Torrijos, responsable de l'IA chez Prodigioso Volcán, à la table "Les opportunités de l'IA pour le journalisme". Elle se présente sur Twitter (maintenant X) comme « empêtrée dans les processus d’IA et la transformation de la communication ». Et il a défendu, face au chômage imminent dû à la technologie comme excuse pour la flexibilité du travail : « L’IA ne remplace pas les personnes, elle remplace les tâches. » En ce sens, il a fait remarquer : « Les gens sont la vraie valeur d’une entreprise. »
La modératrice du panel était María Moya, fondatrice de la société Prodigioso Volcán. Elle a présenté une vidéo montrant un faux incendie dans l'Alhambra généré par l'Intelligence Artificielle parmi les fleurs, les escaliers et les terrasses qui attirent des milliers de touristes chaque année. Les fenêtres sur le ciel et les jardins d'orangers de Grenade auraient un impact sur le monde, mais pas sur la pierre du patrimoine arabe du sud de l'Espagne, car un incendie peut être simulé avec de fausses images. "Les vidéos étaient une source de vérité et elles ne le sont plus, après la popularisation de l'intelligence artificielle et la création de faux contenus", a-t-il déclaré.
De son côté, la directrice numérique de Prisa Radio , Ana Ormaechea, a prévenu qu'un boom de la désinformation se préparait dans les processus électoraux de 2024 (où la moitié de la planète vote) comme on l'a déjà vu aux États-Unis, au Mexique et en Slovénie. Leur priorité est donc de vérifier les informations concernant la possibilité de clonage vocal. L’objectif est de déterminer s’il s’agit d’un deep fake ou d’un véritable enregistrement. "S'ils utilisent l'IA pour le mal, notre mission est de le faire pour le bien", a déclaré Ormaechea.
Le dirigeant de Prisa a mentionné que l'une des applications d'intelligence artificielle qu'ils utilisent est VerificAudio , en collaboration avec Google News Initiative . "Cela permet aux journalistes de détecter les faux sons réalisés avec des voix synthétiques et les sources peuvent même être vérifiées", a-t-il souligné. S’il y a un scandale politique, s’agit-il de la véritable voix d’un homme politique ou d’une manipulation pour générer un scandale ? L’IA nous permet non seulement de générer de fausses nouvelles, mais aussi de remettre en question les vraies nouvelles. Existe-t-il des outils permettant d’entrevoir la vérité ou le mensonge est-il la même chose que l’authenticité ?
Ormaechea a averti, compte tenu des débats sur la formation à l'IA avec des livres, des journaux et des contenus journalistiques piratés, qu'il s'agit d'un des points les plus critiques de discussion, de négociation et de résolution concernant les nouvelles technologies. « La propriété intellectuelle est l’un des domaines les plus touchés. Il y a entre autres la génération de voix et le clonage. Et il n’y a toujours pas de réponses.
D'autre part, à la table « Comment survivre à l'ère de l'Internet inutile » la journaliste Delia Rodríguez, auteur du livre « Memecracia, Los virales que gouverne nos (comment les idées contagieuses utilisent Internet pour manipuler votre esprit) », édité par Planeta, en 2013 (il l'a vu) était plus critique : « Nous courons le risque que l'intelligence artificielle empoisonne Internet. » Il n’y a pas de testeurs d’aliments – à la manière du mythe russe – mais il y a des masses empoisonnées sans le savoir ou sans se rebeller contre ce qu’elles mangent, écoutent, regardent et lisent.
Peut-être que dix ans plus tard, nous sommes déjà empoisonnés et qu’il n’y a pas d’antidote si nous ne nous réglementons pas et ne nous éduquons pas pour être mieux informés. En tout cas, elle dresse le portrait d’un espace virtuel sans air : « Nous vivons dans un présent d’utilisateurs étouffés. » Rodríguez a souligné : « La solution à l’excès de contenu sur Internet doit impliquer de fixer des limites et de le rendre plus gérable, mais c’est nous qui devons en décider, et non des algorithmes ou des machines. »
Rodríguez a promu la navigation délibérée. N'entrez pas dans les réseaux perdus pour voir où ils vous mènent, mais entrez en sachant où vous voulez aller, avec un ticket déjà pris et une recherche spécifique. Les règles de navigation délibérée pour savoir quoi chercher sont : quelles sont vos sources, ce que vous voulez faire sur Internet, consacrer un temps précis et mettre fin au temps passé sur Internet.
Pour sa part, María Sánchez Díez, rédactrice en chef des récits numériques à la rédaction du New York Times , a averti que le boom de l'IA et la crise économique des médias combinés peuvent constituer une combinaison risquée. « Cela peut créer des inégalités, une dépendance et un manque d’autonomie. Si seulement cinq entreprises contrôlent le flux d’attention, il est possible que nous arrivions à un scénario dans lequel l’argent serait monétisé d’une autre manière uniquement à leur profit et les liens disparaîtraient.»
« Les médias du Sud , d'Amérique latine ou d'Afrique, disposant de moins de ressources, dans des contextes plus difficiles, n'ont pas leurs propres conditions de développement. C’est pourquoi je crains que les inégalités entre les médias ne s’accentuent », a prévenu Sánchez Díez. En revanche, il prévoyait un atterrissage d’urgence face à l’incertitude : « Face au problème du volume des contenus, le public revient à des expériences de consommation d’informations plus concrètes. »