Les axes sur lesquels la communauté internationale devrait travailler face à la révolution technologique font référence à la nécessité de réglementer l'utilisation, l'exploitation et, simultanément, de surveiller l'impact sur la population ; surveiller son utilisation par les agresseurs ou les ennemis des démocraties du monde et, enfin, déterminer le cadre éthique. Le pape François lui a donné un prénom et un nom, mettant en garde contre le risque que l’intelligence artificielle provoque une « dictature technologique » qui menace la paix et les démocraties de la planète.
Le fait est que les nouvelles technologies passent par nous et le phénomène est imparable. Le Pape appelle les dirigeants du monde à accepter un « traité international contraignant » sur l’IA élaboré dans un cadre éthique. Qu’il s’agisse d’algorithmes discriminatoires ou de technologies favorisant des entreprises technologiques déjà dominantes, l’IA pourrait, dans les circonstances actuelles, divulguer des documents gouvernementaux secrets ou créer de manière autonome des armes biologiques .
La réalité suggère que des pays comme l'Ukraine disposent déjà d'outils d'IA tels que ce que l'on appelle Clearview AI, qui consiste en un programme de reconnaissance faciale qui stocke quelque 10 milliards de photos d'utilisateurs, étant une base de données privée capable d'identifier tous les utilisateurs des soldats de l'armée russe qui se trouvent sur le territoire ukrainien.
La course aux armements est déjà une grande consommatrice d’IA, mais en termes simples, si la population s’habitue à confier des décisions importantes à des algorithmes, il sera de plus en plus difficile pour les humains d’en reprendre le contrôle . Lors du sommet de 2023 sur l’avenir du combat aérien à Londres, un drone militaire autonome à IA a « tué » son opérateur lors d’un exercice de combat. Heureusement, les manœuvres étaient simulées.
Aujourd’hui, les États-Unis continuent d’intégrer davantage l’IA dans leurs opérations, notamment pour piloter et contrôler un chasseur F-16. Ces compétences pourraient constituer un avantage radical et décisif dans les futurs conflits militaires et en même temps un grave danger si elles devenaient incontrôlables .
Sur un plan plus domestique, mais invité à abandonner nos décisions, à demander de l'aide et à relâcher le contrôle de nos actions ; La révolution actuelle s’appelle la « technologie portable ». Il s’agit d’appareils électroniques conçus pour être portés sur le corps, tels que des lunettes, des montres et des assistants de fitness intelligents. Meta, avec Ray-Ban, intègre une intelligence de pointe, conçue pour traiter les informations visuelles et auditives, permettant à l'appareil d'offrir des réponses intelligentes aux requêtes des utilisateurs.
Les nouvelles lunettes intelligentes sont équipées d'une IA multimodale qui permet aux lunettes de voir, d'entendre et d'interagir avec l'utilisateur. Il peut effectuer des tâches telles que traduire du texte, créer des légendes descriptives pour des images et identifier des objets, suggérer des combinaisons de vêtements, classer des types de fruits, ainsi que traduire du texte en mèmes.
L’éthique technologique est définitivement une dette croissante. Il faut être réaliste, les systèmes d’intelligence artificielle échouent, parfois ils fonctionnent mal, ils génèrent des informations erronées et la possibilité de nous inviter à prendre des décisions erronées existe. Cependant, il est nécessaire de souligner fortement les risques et défis potentiels associés à l’IA, notamment sa fragilité, sa susceptibilité à la manipulation et la nécessité de contrôle et de réglementation.