L’absence d’éthique dans l’intelligence artificielle va creuser l’écart entre les sexes

Le deuxième Forum mondial sur l'éthique de l'intelligence artificielle organisé par le gouvernement de Slovénie et l'UNESCO s'est récemment tenu à Kranj, en Slovénie. Le forum a réuni des dirigeants politiques, économiques, sociaux et universitaires du monde entier pour discuter des défis et des opportunités posés par l'intelligence artificielle (IA) pour le développement humain, durable et éducatif.

L'une des conversations centrales du forum a porté sur l'application de la recommandation sur l'éthique de l'IA, la première norme mondiale sur ce sujet, adoptée par l'UNESCO en 2021. Cette recommandation a établi les principes et les valeurs qui devraient guider la conception, le développement et l'utilisation de l'IA, comme le respect des droits de l'homme, de la dignité , de la diversité, de la justice, de la solidarité, de la paix et de l'environnement.

Au cours d'une session du forum, les résultats des évaluations de préparation et d'impact éthique réalisées dans près de 50 pays de différentes régions et niveaux de développement ont été présentés. Ces résultats ont montré les forces et les faiblesses de chaque pays en matière d'éthique de l'IA, ainsi que les bonnes pratiques et les enseignements tirés . De même, l'importance du partage d'expériences et de connaissances entre les pays a été soulignée, ainsi que la mise en place de mécanismes de suivi et d'examen de l'application de la recommandation.

Le forum a abordé plusieurs sujets clés liés à l'éthique de l'IA : l'équité, la diversité et la non-discrimination ; Surveillance de l'IA ; l'impact de l'IA sur l'égalité des sexes ; et partenariats avec le secteur privé

L’IA a un grand potentiel pour promouvoir l’égalité des sexes, mais elle peut également perpétuer ou exacerber les écarts et les stéréotypes existants . Par exemple, l’IA peut contribuer à améliorer l’accès et la qualité de l’éducation, de la santé et de l’emploi pour les femmes et les filles, mais elle peut également les exclure ou les discriminer dans le développement et l’utilisation de cette technologie, ou générer des préjugés et des violences de genre grâce à l’IA.

La participation des femmes dans le secteur technologique a toujours été limitée en raison d'une représentation et d'une participation insuffisantes. Cette tendance se poursuit dans des domaines en croissance rapide tels que l'intelligence artificielle ; selon les chiffres de l'UNESCO, les femmes occupant des postes décisionnels importants ne dépassent pas 20 % .

Face à cette situation, la directrice du Centre-i pour la société du futur et experte du conseil consultatif de l'UNESCO, Elena Estavillo, a déclaré à EFE que « la technologie ne comble pas les écarts spontanément, s'il n'y a pas de politiques et de conceptions claires basées sur « Sur la base de principes inclusifs dès le départ, les préjugés sexistes vont augmenter. »

Le directeur a souligné que « les systèmes d’IA sont discriminatoires à l’égard des femmes car elles apprennent à partir de bases de données biaisées, qui ne tendent qu’à reproduire l’inertie ». Ainsi, Estavilló a conclu que pour que l'intelligence artificielle soit une opportunité d'égalité, il y a deux problèmes principaux : les femmes sont bien représentées dans la prise de décision pour intégrer la perspective de genre, ainsi que l'absence de préjugés dans les systèmes d'IA .

L’un des principaux défis de l’IA est de garantir que ses bénéfices soient répartis équitablement et que les inégalités existantes ne se reproduisent pas ou ne s’accentuent pas . Pour y parvenir, il est nécessaire de promouvoir l'inclusion et la participation de différents groupes sociaux dans le développement et l'utilisation de cette technologie, ainsi que de garantir que les systèmes basés sur l'IA respectent la diversité culturelle, linguistique et de genre, et ne discriminent aucun d'entre eux. personne ou groupe pour des raisons de race, d’origine ethnique, de religion, d’orientation sexuelle, de handicap, d’âge ou autres.

En ce sens, les experts qui ont participé au forum ont souligné la nécessité de promouvoir la culture numérique et l'éducation à l'éthique de l'IA, tant pour les créateurs que pour les utilisateurs . L’importance d’assurer la transparence, l’explicabilité et la responsabilité des systèmes basés sur l’IA, ainsi que d’établir des mécanismes de contrôle et de recours pour prévenir et remédier aux dommages potentiels causés par l’IA, a également été soulignée.

Un autre sujet clé dont ils ont discuté était la surveillance de l’IA, c’est-à-dire l’ensemble des normes, des institutions et des processus qui réglementent la conception, le développement et l’utilisation de l’IA. La surveillance de l'IA doit être conforme aux principes et aux valeurs de la Recommandation éthique de l'IA de 2021 , ainsi qu'aux cadres juridiques nationaux et internationaux existants. Cependant, la surveillance de l’IA doit également être flexible et adaptable aux évolutions technologiques et sociales, ainsi qu’aux spécificités de chaque contexte et secteur.

Le secteur privé est l’un des principaux moteurs et bénéficiaires de l’IA, mais il a également une grande responsabilité dans le développement et l’utilisation éthique de l’IA. Il est donc essentiel d’établir des partenariats entre le secteur privé et d’autres acteurs de la gouvernance de l’IA, fondés sur la confiance, le respect mutuel et l’intérêt public .

Huit géants de la technologie tels que : Lenovo, LG, Mastercard, Microsoft, Salesforce, Telefónica, INNIT et GSMA ont signé un accord avec l'UNESCO pour développer une IA plus éthique. Les organisations se sont engagées à assumer pleinement leur rôle pour assurer la protection des droits de l'homme lors de la conception, du développement, de l'achat, de la vente et de l'utilisation de l'intelligence artificielle . Cet accord représente un événement historique car c'est la première fois qu'un groupe d'entreprises s'engage dans ce domaine auprès des Nations Unies.