L'intelligence artificielle n'est plus un débat sur le futur. Elle est dans les téléphones, les moteurs de recherche et les réseaux sociaux, et commence à intervenir même dans la façon dont les personnes s'informent et prennent des décisions. Pour Iago Moreno, sociologue espagnol et expert en culture numérique, la question centrale est de savoir qui contrôle ces technologies et sous quelles règles elles fonctionnent.
L'expert remet en cause à la fois l'enthousiasme sans limites autour de l'IA ainsi que les discours qui anticipent des scénarios apocalyptiques. “Ce qu'il y a de plus techniquement exigeant, c'est d'aborder ces technologies avec un regard critique, sans se laisser émouvoir ou dévorer par ces discours”, a-t-il affirmé.
Intelligence artificielle et souveraineté technologique
Pour Moreno, le débat sur l'intelligence artificielle ne peut pas se réduire à ses capacités. Il implique également des questions de sécurité, d'infrastructure et de décisions politiques.
Le sociologue a mis en garde contre les cas où des agents automatisés peuvent compromettre des systèmes et des infrastructures critiques. À son avis, ces épisodes montrent que la technologie ne se développe pas encore sous des normes suffisamment exigeantes. “Les normes que nous devons imposer face à une technologie qui va sans aucun doute transformer le siècle dans lequel nous entrons doivent être plus élevées pour moi. La barre ne peut pas être si basse”, a-t-il soutenu.
Il a également remis en question la portée de la réglementation européenne. Concernant le AI Act, il a affirmé que “l'Europe, pour l'instant, a fait une loi qui est née morte”. En revanche, il considère que les initiatives sur les réseaux sociaux partent d'un problème plus concret car elles cherchent à intervenir sur des plateformes qui ont déjà un rôle central dans la vie quotidienne.
Son regard se concentre également sur l'infrastructure qui soutient l'IA : les centres de données, la consommation énergétique et son déploiement territorial. “Il faudrait mettre en lumière et chronométrer comment l'infrastructure physique sur laquelle ces technologies se basent se déploie sur le territoire et concernant l'utilisation énergétique”, a-t-il affirmé.
À ce stade, Moreno a souligné que les États devraient discuter du type d'infrastructure technologique qu'ils souhaitent avoir et à quelles fins. En se référant au cas argentin et au projet connu sous le nom de Súper RIGI, il a demandé : “Voulons-nous avoir des centres de données en Argentine, en Espagne, utilisés pour piloter des armes automatisées ? Voulons-nous les avoir pour soutenir les pays en développement dans le calcul d'informations sanitaires ?”.
Pour le sociologue, la réponse fait partie d'un débat sur la souveraineté qui ne peut pas se limiter au domaine technique.
Chatbots, information et politique
Un autre point de l'interview a porté sur l'évolution des chatbots en tant qu'outils d'accès à l'information. Moreno a averti que leur intégration dans la vie quotidienne peut avoir des conséquences particulièrement importantes lorsqu'ils sont utilisés pour consulter l'actualité ou les préférences électorales.
« Lorsque les chatbots occupent nos poches, notre vie quotidienne et se normalisent dans de nombreux usages au quotidien, comme une question sur l'alimentation, une question sur l'information d'actualité, voire sur l'orientation du vote », a-t-il expliqué.
L'impact politique est, selon Moreno, l'un des aspects qui nécessitent la plus grande attention. Selon lui, un nombre important de personnes pourrait recourir à ces outils pour s'informer sur les prochaines élections en Argentine et en Espagne.
« Le nombre de personnes qui (...) vont consulter les actualités et les préférences de vote via des chatbots est stupéfiant », a-t-il affirmé.
C'est pourquoi il a réclamé l'établissement de mécanismes de protection. « Il faut au minimum mettre en place un système d'anticorps de base », a-t-il soutenu.
Interrogé sur les demandes de régulation formulées par Sam Altman, Moreno a mis l'accent sur les intérêts des propres entreprises technologiques. « C'est aussi facile de demander la régulation quand on sait qu'on ne vous la donnera pas. C'est au moins une possibilité que nous devons envisager », a-t-il indiqué.
Selon lui, en outre, les réglementations nationales ont une portée limitée s'il n'existe pas de coordination internationale. « Si vous ne transformez pas l'architecture de cette technologie au niveau mondial (...) cela ne sert pas à grand-chose », a-t-il affirmé.
Réseaux sociaux : de la place publique à la polarisation
Moreno a également analysé la transformation des réseaux sociaux, qui au début ont été présentés comme des outils pour démocratiser la communication et faciliter l'organisation citoyenne.
Pour décrire le processus ultérieur, il a repris le concept de « merdification » développé par Cory Doctorow : la dynamique par laquelle une plateforme attire les utilisateurs avec un service de qualité et, une fois consolidée, commence à le dégrader tout en augmentant le contrôle sur ceux qui restent à l'intérieur.
« Quand tu es déjà à l'intérieur et que tu n'as pas d'alternatives, alors elle retire son masque, te donne des algorithmes abusifs, te donne du contenu toxique », a-t-il expliqué.
Selon Moreno, ce processus a également modifié la culture politique des réseaux. « Le passage de la culture de l'activisme à la culture du troll, pour moi c'est ce pont, cette transition », a-t-il soutenu.
L'expert a également remis en question l'idée que les plateformes ne font que refléter les comportements de la société. Selon lui, les décisions concernant les algorithmes et la visibilité interviennent directement dans la conversation publique.
« Ici, ils sont en train d'ingénier la forme que prend la conversation publique et, par conséquent, de reprogrammer la dynamique de nos démocraties », a-t-il affirmé.
Dans ce contexte, il a fait référence à la transformation de Twitter après l'arrivée d'Elon Musk et a soutenu que les décisions prises concernant la plateforme ont modifié la hiérarchisation des voix au sein du débat public.
Pour Moreno, le problème est également lié au modèle économique des plateformes. « On utilise désormais uniquement pour servir les intérêts d'un modèle d'affaires extractiviste qui vampirise notre attention, notre repos et exacerbe la polarisation », a-t-il affirmé.
Sa proposition vise à discuter d'une architecture numérique différente, capable de favoriser l'échange entre perspectives plutôt que de maximiser la confrontation et le temps de présence.
« Il n'a aucun sens de mettre des millions d'euros et de dollars au travail pour rendre les algorithmes des plateformes de plus en plus addictifs », a-t-il soutenu.
La discussion, a-t-il conclu, devrait s'éloigner des étiquettes idéologiques et se concentrer sur les effets concrets que ces technologies ont sur la société. « La régulation ne devrait pas être une question woke, mais une question de santé publique », a-t-il affirmé.