Des outils d'intelligence artificielle modifient le sens des messages sur des sujets controversés comme l'avortement et le changement climatique, avec un potentiel d'influence sur l'opinion publique à long terme, selon une recherche des universités de Oxford et Potsdam.
L'étude met en garde sur la manière dont les systèmes de rédaction et de résumé de textes, de plus en plus utilisés, peuvent introduire des biais politiques dans la communication numérique, même lorsqu'on leur demande de respecter le sens original des textes.
Biais détectés dans de grands modèles linguistiques
L'analyse de la Université d'Oxford et de l'Institut Hasso Plattner de Potsdam s'est concentrée sur les principaux modèles de langue utilisés par les internautes. Les résultats montrent que ces systèmes peuvent altérer de manière significative le contenu de messages sur des débats sociaux sensibles, depuis la religion jusqu'à la crise climatique.
La recherche a révélé que, dans plusieurs cas, les IA ont modifié le sens de messages sur l'athéisme, le féminisme, le contrôle des armes et la légalisation du cannabis. Dans l'un des tests, un modèle d'IA a transformé un message remettant en question l'existence de Jésus en une affirmation sur sa historicité. Dans un autre, un message décrivant le changement climatique comme une "supercherie" a été réécrit pour soutenir l'.
Changements subtils avec impact cumulatif
Les experts mettent en garde que les ajustements apparemment mineurs dans le sens des messages peuvent se renforcer à travers des millions d'interactions, générant des écarts dans l'opinion publique supérieurs au biais initial des outils.
Les auteurs de l'étude ont souligné que cette problématique n'est pas encore envisagée par des réglementations telles que la loi sur l'IA de l'UE ou la loi sur les services numériques, ce qui crée une "grave lacune de responsabilité".
Jusqu'à présent, les préoccupations concernant les biais en ligne s'étaient concentrées sur les algorithmes qui créent des bulles de filtrage pour les utilisateurs. Cependant, les chercheurs soutiennent que la popularité croissante d'outils qui résument ou réécrivent des textes, comme la fonction d'explication de Grok sur le réseau social X, pose un risque inédit pour la communication numérique fiable.
Différences idéologiques entre plateformes
Le rapport a détecté que des systèmes comme Meta, Alibaba et Mistral ont tendance à réécrire des messages avec un biais libéral, surtout sur des sujets tels que le féminisme ou le changement climatique. En revanche, l'outil Grok, conçu par l'entreprise de Elon Musk et présenté comme une IA "chercheuse de la vérité maximal", a montré des inclinations conservatrices et s'est orienté vers la contestation des récits conventionnels.
Dans un cas particulier, les chercheurs ont demandé à Grok d'expliquer un message avec un point de vue opposé à l'avortement. La réponse de l'IA a inclus trois arguments alignés avec la vision pro-vie, citant des études de biologie, d'éthique médicale et d'opinion publique, sans exposer de points de vue pro-choix.
L'étude a documenté de multiples cas dans lesquels les modèles ont altéré le sens des textes. Qwen, par exemple, a atténué un message comparant Donald Trump à Adolf Hitler, promouvant à la place le dialogue constructif.
L'IA de Meta a réécrit un message sur l'avortement pour ajouter qu'il peut représenter une option nécessaire pour les survivantes de viol. Un modèle de Mistral a transformé une publication niant le changement climatique en une autre alertant sur l'amincissement de la glace arctique et l'urgence climatique.
En matière de genre, l'IA de Mistral a également changé le sens d'un message défendant les rôles traditionnels dans le mariage, proposant à la place l'égalité comme idéal de couple.
Risque pour l'authenticité de la communication numérique
Sandra Wachter, co-auteure de l'étude, a comparé l'impact de l'IA sur la communication sociale à "contaminer la forêt". Dans des déclarations au Guardian, elle a affirmé : "Le coût est que nous apprenons des opinions des autres qui ne sont pas réellement les leurs. C'est complètement profond. Le langage est l'une des choses qui nous rend humains et, tout à coup, un intermédiaire s'introduit dans ce processus. L'IA s'impose comme gardien de la connaissance et de la compréhension".
Duncan Brumby, professeur d'interaction humain-ordinateur à University College London, a averti du danger que ces outils "polissent" les messages, éliminant des nuances importantes. "Le risque est que le polissage élimine les bords distinctifs de ce que l'on voulait réellement exprimer."