Les personnalités de la Silicon Valley mettent depuis longtemps en garde contre les dangers de l’intelligence artificielle . Désormais, leur anxiété s'est déplacée vers d'autres domaines du pouvoir : le système juridique , les réunions mondiales des chefs d'entreprise et les principaux régulateurs de Wall Street .
La semaine dernière, l' Autorité de régulation du secteur financier ( FINRA ), l'autorégulateur du secteur des valeurs mobilières, a qualifié l'IA de « risque émergent » et le Forum économique mondial de Davos, en Suisse, a publié une enquête concluant que la désinformation générée par l'IA représente le plus grand risque proche. menace à long terme pour l’économie mondiale.
Ces rapports ont été publiés quelques semaines seulement après que le Conseil de surveillance de la stabilité financière à Washington a déclaré que l'IA pourrait causer « un préjudice direct aux consommateurs » et que Gary Gensler , président de la Securities and Exchange Commission ( SEC ), a publiquement mis en garde contre la menace posée à la stabilité financière. par le fait que de nombreuses sociétés d'investissement s'appuient sur des modèles d'IA similaires pour prendre des décisions d'achat et de vente .
« L'IA peut jouer un rôle central dans le reporting suite à une future crise financière », a-t-il déclaré dans un discours en décembre. Lors de la conférence annuelle du Forum économique mondial destinée aux hauts dirigeants, hommes politiques et milliardaires , qui se tient dans une station de ski suisse chic , l'intelligence artificielle est l'un des sujets centraux et est abordée dans de nombreux panels et événements.
Dans un rapport publié la semaine dernière, le forum affirme que son enquête auprès de 1 500 décideurs politiques et dirigeants de l’industrie a révélé que les fausses nouvelles et la propagande écrites et alimentées par des chatbots IA constituent le plus grand risque à court terme pour l’économie mondiale. Environ la moitié de la population mondiale participe aux élections de cette année dans des pays comme les États-Unis , le Mexique , l'Indonésie et le Pakistan , et les chercheurs en désinformation craignent que l'IA ne facilite la propagation de fausses informations et n'aggrave les conflits sociaux .
Les propagandistes chinois utilisent déjà l’IA générative pour tenter d’influencer la politique taïwanaise , a rapporté le Washington Post vendredi 12 janvier. Le contenu généré par l'IA apparaît dans de fausses vidéos d'informations à Taiwan , ont déclaré des responsables gouvernementaux.
Le rapport du forum a été publié un jour après que la FINRA a noté dans son rapport annuel que l'IA avait soulevé « des inquiétudes concernant l'exactitude, la confidentialité, les préjugés et la propriété intellectuelle », même si elle offre des gains potentiels en termes de coûts et d'efficacité . Et en décembre, le FSOC du département du Trésor , qui surveille les comportements à risque du système financier, a déclaré que des défauts de conception de l'IA non détectés pourraient conduire à des décisions biaisées, telles que le refus de prêts à des candidats qui, autrement, seraient qualifiés.
L'IA générative , qui s'entraîne sur d'énormes ensembles de données, peut également produire des conclusions complètement incorrectes qui semblent convaincantes, a ajouté le conseil. Le FSOC , présidé par la secrétaire au Trésor Janet L. Yellen , a recommandé que les régulateurs et le secteur financier accordent plus d'attention à la surveillance des risques potentiels découlant du développement de l'IA .
Gensler, de la SEC , a été l'un des plus critiques à l'égard de l'IA . En décembre, son agence a demandé des informations sur l'utilisation de l'IA à plusieurs conseillers en investissement , selon Karen Barr , directrice de l' Investment Adviser Association , un groupe industriel. La demande d'informations, connue sous le nom de « balayage », intervient cinq mois après que la commission a proposé de nouvelles règles visant à éviter les conflits d'intérêts entre les conseillers qui utilisent un type d' IA connu sous le nom d'analyse prédictive des données et leurs clients.
"Tout conflit d'intérêts qui en résulterait pourrait causer un préjudice aux investisseurs d'une manière plus prononcée et à plus grande échelle qu'il n'était possible auparavant", a déclaré la SEC dans sa proposition de règle.
Les conseillers en investissement sont déjà tenus, en vertu de la réglementation actuelle, de donner la priorité aux besoins de leurs clients et d'éviter de tels conflits , a déclaré Barr . Son groupe souhaite que la SEC retire la règle proposée et fonde toute action future sur ce qu'elle a appris de son briefing . "Les réglementations de la SEC ratent la cible", a-t-il déclaré.
Les sociétés de services financiers voient des opportunités d'améliorer les communications avec les clients, les opérations de back-office et la gestion de portefeuille. Mais l’IA comporte également des risques plus importants. Les algorithmes qui prennent les décisions financières pourraient produire des décisions de prêt biaisées qui refuseraient aux minorités l’accès au crédit, voire provoquer un krach boursier mondial, si des dizaines d’institutions s’appuyant sur le même système d’IA vendaient en même temps.
Les sociétés de services financiers voient des opportunités d'améliorer les communications avec les clients, les opérations de back-office et la gestion de portefeuille. Mais l’IA comporte également des risques plus importants. Les algorithmes qui prennent les décisions financières pourraient produire des décisions de prêt biaisées qui refuseraient aux minorités l’accès au crédit, voire provoquer un krach boursier mondial, si des dizaines d’institutions s’appuyant sur le même système d’IA vendaient en même temps.
À mesure que l’intelligence artificielle devient plus complexe et plus performante, certains experts craignent que l’automatisation ne devienne une « boîte noire » incapable d’expliquer comment elle a pris une décision, laissant les humains incertains quant à sa robustesse. Des systèmes mal conçus ou mal gérés pourraient miner la confiance entre acheteur et vendeur, nécessaire à toute transaction financière , explique Richard Berner , professeur clinicien de finance à la Stern School of Business de l'Université de New York .
"Personne n'a imaginé un scénario de stress avec des machines en marche", a ajouté Berner , premier directeur du Bureau de recherche financière du Trésor . Dans la Silicon Valley , le débat sur les dangers potentiels de l’IA n’est pas nouveau. Mais il s'est intensifié dans les mois qui ont suivi le lancement fin 2022 du ChatGPT d'OpenAI , qui a montré au monde les capacités de la technologie de nouvelle génération .
Au milieu d'un boom de l'intelligence artificielle qui a alimenté un rajeunissement de l'industrie technologique , certains dirigeants d'entreprises ont averti que le potentiel de l'IA à déclencher le chaos social rivalise avec les armes nucléaires et les pandémies mortelles . De nombreux chercheurs affirment que ces préoccupations détournent l’attention des implications réelles de l’IA . D'autres experts et hommes d'affaires affirment que les inquiétudes suscitées par cette technologie sont exagérées et pourraient pousser les régulateurs à bloquer les innovations qui pourraient aider les gens et augmenter les bénéfices des entreprises technologiques .
L’année dernière, les politiciens et les décideurs du monde entier ont également eu du mal à comprendre comment l’IA s’intégrerait dans la société . Le Congrès a tenu plusieurs auditions. Le président Biden a publié un décret affirmant que l’IA était « la technologie la plus importante de notre époque ». Le Royaume-Uni a convoqué un forum mondial sur l’IA au cours duquel le Premier ministre Rishi Sunak a averti que « l’humanité pourrait perdre complètement le contrôle de l’IA ». Les inquiétudes incluent le risque que l’IA « générative » – qui peut créer du texte, des vidéos, des images et du son – puisse être utilisée pour créer de la désinformation, déplacer des emplois ou même aider les gens à créer des armes biologiques dangereuses .
Les critiques de la technologie ont souligné que certains des dirigeants qui ont tiré la sonnette d'alarme, comme Sam Altman , PDG d' OpenAI , dirigent le développement et la commercialisation de la technologie . Les petites entreprises ont accusé les poids lourds de l'IA OpenAI , Google et Microsoft d'exagérer les risques de l'IA pour déclencher une réglementation qui rend difficile la concurrence pour les nouveaux entrants .
"Le problème avec ce battage médiatique , c'est qu'il y a un décalage entre ce qui est dit et ce qui est réellement possible", explique Margaret Mitchell , scientifique en chef de l'éthique chez Hugging Face , une startup d'IA open source basée à New York . "Nous avons eu une période de lune de miel au cours de laquelle l'IA générative était quelque chose de très nouveau pour le public et ils ne pouvaient voir que le bien. Lorsque les gens ont commencé à l'utiliser, ils ont pu voir tous les problèmes qu'elle présentait."
(c) 2024, Le Washington Post