L’intelligence artificielle pose différents défis que la société et les autorités commencent à comprendre au milieu de sa massification. Les questions d’éthique, de sécurité et de réglementation préoccupent les organisations du monde entier. C'est pourquoi l' ONU a créé une organisation qui sera chargée de comprendre tout ce contexte.
Les Nations Unies (ONU) ont confirmé la création d'un groupe composé de 39 membres de différents pays pour évaluer les risques associés à l'IA et formuler des propositions pour relever ces défis.
Le secrétaire général de l'ONU, António Guterres, a souligné l'importance de cette initiative : « l'utilisation malveillante de l'intelligence artificielle pourrait saper la confiance dans les institutions, affaiblir la cohésion sociale et menacer la démocratie elle-même ». Quelque chose qui se produit dans un contexte où l’IA est de plus en plus présente dans les applications et les appareils et donc dans la vie quotidienne.
En outre, cet organisme aura pour tâche de promouvoir une « conversation mondiale multidisciplinaire » incluant diverses parties prenantes, depuis les experts de l'industrie jusqu'aux universitaires et aux représentants gouvernementaux.
Parmi les personnes qui composeront cette entité internationale figurent l'UNESCO , James Manyika, vice-président senior de Google-Alphabet , Natasha Crampton, directrice responsable de l'intelligence artificielle chez Microsoft, et Mira Murati, directrice de la technologie chez OpenAI. Outre des gouvernements comme le Mexique, la Russie, le Kenya, le Brésil et l'Allemagne , et des institutions telles que l' Université de Tokyo et l'Université de Stanford.
Cette organisation ne se veut pas une alliance pour réglementer ou contrôler l'intelligence artificielle , qui permet d'accorder ou de supprimer des licences d'utilisation, mais ce qu'elle cherche est de comprendre et d'examiner les risques que génère cette technologie. Quelque chose qui serait rendu visible à travers des rapports publiés périodiquement.
Autres cas d'organisations similaires dans le monde
Dans ce contexte de croissance et d’usage généralisé de l’IA, le Groupe des Sept (G7) a appelé il y a quelques mois à établir des normes réglementaires. Les dirigeants de cette alliance ont assuré que même si les approches de cette technologie peuvent varier, il est essentiel que les règles sur l'IA soient conformes aux valeurs démocratiques partagées.
À travers le « Processus d'Hiroshima », un cadre de discussion établi par les gouvernements du G7, il cherchera à aborder les questions clés liées à la gouvernance, aux droits de propriété intellectuelle, à la transparence des développeurs et aux risques associés à la manipulation de l'information.
Le G7 reconnaît que la régulation doit s’adapter à ces avancées et garantir l’équité et la responsabilité. Cela inclut la fourniture d’outils pour lutter contre le harcèlement en ligne, la haine et protéger la vie privée des utilisateurs.
Outre les initiatives du G7 et de l’ONU, des efforts supplémentaires sont en cours partout dans le monde pour comprendre les défis de l’intelligence artificielle. En Europe, le Parlement européen se prépare à voter une loi globale sur l’IA qui pourrait devenir la première du genre au monde. Ce projet de loi comprend des mesures strictes pour limiter certaines fonctions à l'IA, comme la reconnaissance faciale et la surveillance biométrique.
D’un autre côté, les États-Unis ont adopté une approche différente quant à la manière d’aborder la réglementation de l’intelligence artificielle. Bien qu'aucune législation spécifique n'ait encore été élaborée pour contrôler le développement et l'utilisation de cette technologie, la Maison Blanche a eu des entretiens avec des sociétés de développement, telles que Microsoft, Google et OpenAI , les invitant à garantir la transparence et la sécurité de leurs développements.
Dans le cas des entreprises, le PDG d' OpenAI , Sam Altaman, a assuré qu'un organisme de réglementation international devrait être créé pour établir des normes mondiales pour l'IA, quelque chose de similaire à ce qui a été fait avec les armes nucléaires.
Devant le Sénat américain, le dirigeant a fait part de ses craintes quant à l'avancée de cette technologie et a mis en garde contre d'éventuelles campagnes de désinformation pilotées par l'IA qui pourraient influencer les élections présidentielles. Il a également souligné la nécessité d'une réglementation plus stricte pour les systèmes d'IA plus importants, comme ChatGPT , qui ont un plus grand potentiel de préjudice.
Humanisme numérique
José Leonardo Valencia, recteur de l'Areandina Bogotá, a assuré que la pandémie nous a rendus plus humanisés et a compris que l'intelligence artificielle est un outil qui dépend de nous pour l'utiliser de manière positive.
« La technologie doit être accompagnée par l'homme pour que son impact soit positif dans nos vies. Nous ne pouvons pas comprendre la technologie ou les réseaux sociaux comme quelque chose qui démantèle nos vies, mais plutôt comme un moyen de trouver des opportunités », a expliqué Valencia.
En ce sens, Gerhard Doujak, ambassadeur d'Autriche en Colombie, a assuré que le monde des technologies de l'IA doit être compris comme un déclencheur de créativité et de productivité. Il a indiqué que le monde entre dans une phase cruciale en raison des capacités qu'il a introduites, mais "cela doit être médiatisé par la dignité de l'homme et de la nature".
Pour sa part, Werner Stengg, de l' Alliance numérique pour l'Amérique latine de l'Union européenne , a déclaré que même si ces technologies apportent des solutions et facilitent les progrès dans les domaines de la santé, de l'éducation, de la pharmacie et de la linguistique, elles exposent également des défis et des alertes pour ceux qui les utilisent. .
« Bien sûr, il existe un risque et beaucoup de gens en ont peur, mais il se produit à cause d'un manque de compréhension. Il n’est pas conseillé de prendre des décisions risquées basées sur l’IA. Un autre risque est lié aux droits fondamentaux qui pourraient être violés ou aux problèmes d’accès. Par exemple, AI ne peut pas décider qui accepte ou non un emploi », a-t-il déclaré.