Les avancées rapides de l'intelligence artificielle pourraient creuser les inégalités mondiales et accroître les risques pour la démocratie, selon un rapport de l'Organisation des Nations Unies (ONU). Le document, élaboré par un panel international indépendant d'experts en IA, souligne l'urgence d'établir des règles partagées pour gérer l'impact de cette technologie.
Lors d'une conférence de presse, António Guterres, secrétaire général de l'ONU, a souligné que « plus l'IA progresse sans règles partagées, moins les gouvernements et les personnes auront voix au chapitre sur les résultats ». Le rapport a été présenté une semaine avant le premier dialogue mondial sur la gouvernance de l'intelligence artificielle, organisé par l'ONU pour les gouvernements et les experts.
Le panel, convoqué par l'Assemblée générale de l'ONU comme le premier organisme scientifique mondial dédié à l'IA, expose des opportunités et des menaces : des améliorations en agriculture et en éducation aux risques catastrophiques tels que la fraude et la manipulation électorale par des acteurs malveillants.
Concentration de pouvoir et inégalité numérique
Le rapport souligne que l'accès aux outils d'IA ne garantit pas des bénéfices équitables. Les pays qui dépendent de modèles, d'infrastructures cloud et de flux de données étrangers peuvent accéder à l'IA, mais perdent le contrôle sur les normes, les sauvegardes et l'adaptation locale. La journaliste Maria Ressa, coprésidente du panel, a souligné que « le rythme ne ralentit pas, le pouvoir se concentre et le contrôle n'est pas garanti ».
Actuellement, plus d'un milliard de personnes utilisent l'IA chaque semaine, bien que l'accès varie considérablement. Le rapport met en avant que dans le sud mondial, l'adoption progresse beaucoup plus lentement que dans le nord mondial. Les États-Unis et la Chine sont à la pointe du développement de modèles avancés et de l'investissement dans l'infrastructure, ce qui pourrait faciliter le « contrôle autoritaire et saper la responsabilité démocratique ».
Recommandations et avertissements sur l'infrastructure de l'IA
Le panel recommande aux pays en retard d'investir dans des infrastructures de données et de calcul, y compris la construction de centres de données et l'assurance de l'approvisionnement énergétique. Cependant, il met en garde contre les coûts environnementaux de ces centres, comme la consommation élevée d'énergie et d'eau et l'émission de gaz à effet de serre.
Le rapport souligne également la difficulté d'évaluer la sécurité et de superviser les modèles d'IA les plus puissants. La plupart des pays, y compris les économies avancées, manquent de l'expertise technique nécessaire pour analyser les modèles de pointe ou participer activement à leur gouvernance.
Défis linguistiques et fracture numérique
Les différences de langue et l'accès à Internet amplifient la fracture numérique. Le rapport de l'ONU souligne que « l'intelligence artificielle laisse de côté la majorité des langues ». Les outils génératifs obtiennent de meilleurs résultats en anglais et dans les langues populaires, tandis que la plupart des langues sont exclues ou présentent des performances inférieures.
Ces disparités ont de graves conséquences, notamment en matière de santé. Le document cite des erreurs de traduction de termes médicaux dans des langues peu représentées, telles que la confusion de maladies ou d'instructions cliniques, ce qui peut mettre des vies en danger.
De plus, plus de 2 milliards de personnes, soit presque un tiers de la population mondiale, restent complètement déconnectées, selon l'.
Le rôle scientifique du rapport et les discussions futures
Le panel, composé de 40 experts du monde entier, a présenté le rapport comme le premier du genre et a souligné que l'ONU représente le forum mondial le plus important pour aborder les risques transfrontaliers de cette ampleur. L'approche est scientifique, non politique, et le document vise à fournir des faits et des outils aux États membres, sans prescrire de politiques concrètes.
« La prescription politique arrivera la semaine prochaine à Genève, lorsque les États se rassembleront autour de la table », a expliqué Ressa. L'intention est que le rapport serve de base pour le débat et la prise de décision dans les forums internationaux sur l'intelligence artificielle.