Et si l'évaluateur de votre prochain emploi était un modèle d'intelligence artificielle (IA) formé en Corée ? Et si la personne qui décide des priorités dans une salle d’urgence médicale où vous arrivez désespérée était un algorithme très sophistiqué ?
L'IA prend des décisions qui affectent les aspects les plus importants de nos vies . Ces systèmes de traitement massif de données reproduisent les valeurs de ceux qui les conçoivent , qui sont généralement des ingénieurs de sexe masculin très instruits et qui ont beaucoup appris en mathématiques, en physique et, dans la plupart des cas, très peu en anthropologie, sociologie ou travail social. La plupart d’entre elles se sont formées suite à cette division artificielle que nous avons faite des connaissances humaines : d’un côté les sciences dures et de l’autre les sciences sociales. Dans cette séparation réside l’un des principaux défis : les problèmes auxquels nous sommes confrontés aujourd’hui nécessitent des personnes dotées d’outils techniques et de perspectives sociales, de manière intégrée, et non comme des entités séparées.
Si aujourd’hui nous demandons à un générateur d’images de montrer à quoi ressemble un médecin ou un scientifique, il nous répondra probablement une photo d’un homme blanc.
Soyons clairs : si aujourd’hui on demande à un générateur d’images de montrer à quoi ressemble un médecin ou un scientifique, il nous retournera sûrement une photo d’un homme blanc. Et la liste des exemples pourrait être longue. Nous montrons aux nouvelles générations que les postes à responsabilité maximale « sont » majoritairement ainsi. Il s’agit ni plus ni moins de reproduire les biais systémiques qui ont existé dans le monde au fil des années, annulant tout autre type de représentation plus fidèle à la réalité, hétérogène, complexe et diversifiée. C’est subtil et caché. Cependant, si nous ne le résolvons pas aujourd’hui, les problèmes qui existaient déjà s’amplifieront de façon exponentielle.
Aujourd'hui, nous savons déjà que lorsqu'une technologie émerge , de nouveaux problèmes et de nouvelles responsabilités apparaissent qui lui sont associés. Gemma Galdon , une entrepreneure sociale du réseau Ashoka , travaille en apportant des perspectives sociales au monde des algorithmes : elle et son organisation construisent des dispositifs qui vérifient que la technologie avec laquelle nous vivons ne reproduit pas les inégalités ou les discriminations. Par exemple, éviter d’utiliser des données financières au lieu de données médicales dans les salles d’urgence des hôpitaux, ou encore éviter la sous-représentation des femmes discriminées dans les ensembles de données bancaires.
Il est temps de réfléchir à des réglementations qui garantissent d'aller plus lentement dans cette course : il ne s'agit pas de le faire en premier, il le fait en pensant au bien commun.
Le fait est que l’IA n’est pas conçue pour résoudre les problèmes du monde, mais elle peut le faire. Petit à petit, les entrepreneurs sociaux commencent à travailler dans chaque phase du cycle du modèle et pas seulement comme contrôleurs, c'est-à-dire comme simples utilisateurs auditeurs ; cherchant à intégrer les perspectives sociales des moments clés au début et non comme un patch à la fin. Développer une IA responsable ralentit nécessairement le processus de production. En termes d'architecture algorithmique, on ne peut pas codifier l'éthique . Ce que nous pouvons faire, ce sont des tests qui nous permettent d'affiner les modèles et de les ajuster pour garantir qu'ils produisent de meilleurs résultats.
Il est temps de réfléchir à des réglementations qui garantissent d'aller plus lentement dans cette course : il ne s'agit pas de le faire en premier, il le fait en pensant au bien commun. Nous sommes contemporains d’un moment unique de création technologique. Car le problème n’est pas l’IA, mais la capacité d’accéder à des solutions efficaces, accessibles et mettant l’humain au centre . Nous avons besoin d’équipes interdisciplinaires qui comprennent les contextes, les politiques, les défis, qui ont des capacités techniques mais aussi la capacité de travailler sur les territoires. Les entrepreneurs qui savent utiliser ces outils de manière significative, avec un objectif précis et en créant de la valeur en cours de route, feront la différence. Nous avons besoin que les entreprises technologiques dialoguent avec elles pour comprendre leurs points de vue, leurs perspectives et que les entrepreneurs sachent comment utiliser une technologie dont nous n’avons pas encore vu tout le potentiel.
L'auteur est directeur du Réseau des Entrepreneurs Sociaux d'Ashoka pour le Cône Sud.