Lors d'une discussion approfondie sur l'avenir de l'intelligence artificielle (IA), James Manyika , vice-président principal de la recherche, de la technologie et de la société chez Google, a rencontré l'amiral William McRaven à la retraite pour réfléchir aux avancées et aux défis auxquels la société est confrontée avec l'intégration de ces technologies. Le dialogue aborde la pertinence de l’intégrité et du service public dans le contexte de l’IA.
Manyika a rappelé la période de collaboration avec McRaven au sein d'un groupe de travail chargé de la stratégie d'innovation et de sécurité nationale des États-Unis. Il a souligné que « l'IA, ainsi que la biochimie et d'autres technologies fondamentales, sont d'incroyables moteurs d'innovation et de prospérité », même si elles soulèvent également des questions de sécurité nationale.
McRaven a répondu que, rétrospectivement, "la Chine gagnait du terrain et devrait nous dépasser dans les années à venir", ce qui conduirait à une réflexion approfondie sur l'innovation américaine et sur l'importance de financer la recherche fondamentale ... pour maintenir la compétitivité.
McRaven a également exprimé son inquiétude quant au « sous-investissement dans l'éducation », soulignant l'état critique de l'éducation de la maternelle à la 12e année (en référence au système éducatif qui s'étend de la maternelle à la 12e année, qui correspond à la dernière année de l'enseignement secondaire) et la nécessité de développer des compétences STEM . dès le plus jeune âge.
Manyika partageait cette préoccupation et soulignait la nécessité d'une répartition plus équitable des ressources éducatives à travers le pays. "Il est crucial que nous investissions dans toutes les régions du pays, pour tous, afin de pouvoir développer ces compétences plus largement", a déclaré Manyika, soulignant les talents dispersés dans des institutions moins renommées que les universités de l'Ivy League.
Concernant la mobilité entre les secteurs public et privé , McRaven a salué les progrès réalisés dans les partenariats public-privé, mentionnant l'importance des infrastructures éducatives et la nécessité de partenariats stratégiques pour améliorer à la fois le gouvernement fédéral et les établissements d'enseignement.
Tous deux ont convenu que l’initiative Nair visant à développer des ressources en IA constitue un développement prometteur pour la communauté de recherche universitaire.
Abordant les risques associés à l'IA , tels que les mauvaises performances du système et les utilisations abusives potentielles, Manyika a souligné qu'il fallait être audacieux mais responsable en envisageant des solutions innovantes ainsi que le crowdsourcing. McRaven a souligné que « l’IA et l’apprentissage automatique offrent un grand potentiel et que nous devons aller de l’avant à toute vapeur, mais en gardant les yeux ouverts sur les risques ».
Dans le domaine des valeurs et de l'éthique , la nécessité pour les décisions technologiques de refléter les intérêts et les valeurs fondamentales a été soulignée, McRaven déclarant : « Aux États-Unis, nous allons toujours mettre une personne dans la boucle décisionnelle. … Ce sera le système auquel est attaché un système de valeurs qui sera fondamentalement meilleur à long terme.
En fin de compte, Manyika et McRaven ont spéculé sur l'impact à long terme de l'IA sur la société d'ici 2050 , s'accordant sur le rôle crucial qu'elle jouera dans le changement climatique et la recherche de remèdes contre des maladies telles que le cancer. McRaven s'est dit optimiste quant à la manière dont l'IA transformerait positivement des secteurs tels que la santé et l'éducation .
Tous deux ont conclu qu’une conversation nationale est essentielle pour déterminer ce qui est considéré comme bénéfique pour la société et comment ces principes peuvent être appliqués pour guider l’orientation de la technologie.
La conversation entre James Manyika et William McRaven révèle une perspective globale sur l’évolution de l’IA et son intersection avec les valeurs humaines fondamentales. En mettant l’accent sur l’éducation, la recherche et l’éthique, ils envisagent un avenir de leadership technologique équilibré avec responsabilité et conscience culturelle.