Une erreur d'identification , selon experts et autorités responsables, explique la mort de sept travailleurs humanitaires de l'ONG humanitaire World Central Kitchen le 1er avril à Gaza, dont le convoi d'aide alimentaire a été attaqué par des drones guidés par l'Intelligence artificielle.
Ce fait met considérablement en évidence ce que l’on sait déjà sur les risques liés à l’utilisation de l’intelligence artificielle appliquée aux armes autonomes , qui opèrent et « décident » leurs attaques en dehors du contrôle humain.
Le réseau France24 souligne que la plupart des erreurs de ciblage sont dues au transfert de la « décision » à l’Intelligence Artificielle, un outil qui n’est ni intelligent ni artificiel. Il existe des systèmes programmés pour des objectifs d'infrastructure et d'autres pour la sélection des personnes, ils sont appliqués depuis longtemps et ont des marges d'erreur d'environ 10 % . Malheureusement, les sept travailleurs humanitaires tués à Gaza se situent dans cette fourchette.
Ce n’est pas un problème pour un pays ou un autre en particulier et, bien entendu, en toute bonne foi, on ne peut pas croire que l’attaque contre les travailleurs humanitaires ait été humainement intentionnelle. Ce qui se passe, c'est que si vous décidez d'utiliser une arme autonome, vous devez supposer qu'elle recherche et attaque des cibles sans contrôle humain, sur la seule base de la programmation qu'elle a intégrée , donc sans possibilité de correction une fois déployée. Le danger est encore plus grand lorsqu’il s’agit d’armes nucléaires autonomes. Malheureusement, plusieurs pays investissent encore actuellement dans son développement.
La nécessité d'une réglementation internationale de l'intelligence artificielle - telle que promue par le secrétaire général de l'ONU et de nombreux centres d'études indépendants, universités et experts - qui soit contraignante, tant dans son développement que dans ses applications, devient de plus en plus urgente. et d'autres domaines. Il y a quelques semaines, à l'Assemblée générale des Nations Unies, une étape importante a été franchie en approuvant la première résolution mondiale sur l'IA, mais cela ne suffit pas, car, malheureusement, comme les réglementations qui sont jusqu'à présent approuvées ou étudiées au niveau multilatéral, par exemple, celle de l’Union européenne, ou celle des États, comme celle de la Chine, n’envisagent pas de réglementation contraignante de l’utilisation militaire de cette technologie, peut-être la partie la plus dangereuse de son application.
J'espère que cette terrible « erreur d'identification » servira à sensibiliser la communauté internationale et notre propre société à ce risque plus grand et que des progrès décisifs seront réalisés pour donner un cadre à cet outil technologique qui empêche son utilisation aveugle, et que ses effets soient positifs. pour le progrès de l’humanité. Ne transformons pas l’énorme potentiel bénéfique de l’intelligence artificielle en bombe atomique du 21e siècle .