Selon un nouveau rapport du groupe de réflexion mondial The Millennium Project Global Futures Studies and Research (Millennium Project), qui rassemble 71 nœuds de pays et régions du monde, les avantages de l'intelligence générale artificielle (AGI) sont si grands en médecine , l'éducation, l'administration et la productivité , que les entreprises rivalisent pour être les premières à développer et à appliquer leur potentiel.
La même chose se produit avec les gouvernements, car l’AGI augmentera le pouvoir politique et ils essaieront de devancer son utilisation. La coopération internationale est donc essentielle, compte tenu des tensions entre les nations et les entreprises, qui se disputent la suprématie dans cette technologie.
Le partage des risques peut encourager ou forcer la collaboration, mais pour ce faire, la méfiance doit être surmontée. Cela pose un énorme défi, c’est pourquoi une gouvernance mondiale du développement de cet instrument est essentielle.
Dans ce rapport, intitulé « Problèmes de gouvernance internationale de la transition de l'intelligence artificielle étroite à l'intelligence artificielle générale (AGI) », un groupe de 55 dirigeants mondiaux et experts en intelligence artificielle, venus des États-Unis, de Chine, du Royaume-Uni, du Canada, L'Union européenne et la Russie , dont Sam Altman, Bill Gates et Elon Musk, expliquent les possibilités futures, avertissant que des systèmes avancés d'intelligence artificielle pourraient émerger plus tôt que prévu, posant des risques sans précédent à moins que des cadres de gouvernance prudents ne soient rapidement établis.
Ils parlent de la manière de réguler l’AGI, car dans les années à venir, elle pourrait gérer de nouvelles situations aussi bien, voire mieux, que les humains, ce qui représenterait une « explosion de l’intelligence » qui créerait une IA supérieure aux capacités humaines. Le manque de gouvernance pourrait conduire à des résultats catastrophiques, voire à des menaces existentielles pour l’humanité, si de tels systèmes ne sont pas alignés sur les valeurs et les intérêts humains.
Le rapport conclut qu'aucun modèle de gouvernance existant n'est suffisamment préparé pour gérer les risques et les opportunités posés par AGI. Cela nécessite le développement rapide d’un nouveau type de gouvernance flexible, capable de suivre et d’anticiper le rythme de l’évolution de l’IA et de fournir les garanties nécessaires, sans pour autant étouffer ses avancées.
Selon Ilya Sutskever, co-fondateur d'OpenAI , « l'AGI est plus proche que jamais – la prochaine avancée pourrait dépasser l'intelligence humaine. "L'alignement sur les valeurs humaines est essentiel mais difficile", a déclaré Ben Goertzel, auteur d'AGI Revolution.
« Il s'agit plus de savoir qui contrôle le développement et l'utilisation de l'AGI que d'une liste d'éthique ; Nous sommes tous dans ce bateau ensemble, si les choses tournent mal, nous sommes tous condamnés », selon Nick Bostrom, professeur à Oxford.
Des pouvoirs exécutifs extraordinaires pourraient être nécessaires pour assurer une gouvernance fiable et efficace à l’échelle mondiale, qui pourrait inclure des capacités militaires. Bien que controversées, des propositions visant à limiter temporairement la recherche et le développement pourraient s’avérer nécessaires afin de laisser le temps de concevoir et de mettre en œuvre des solutions de gestion. Le délai nécessaire pour développer une gouvernance efficace est court et nécessite une collaboration sans précédent.
Le secrétaire général de l'ONU organise un organe consultatif mondial des parties prenantes pour créer le cadre de l'ONU pour la gouvernance internationale de l'IA . Un événement aura donc lieu le 20 septembre 2023 dans le cadre de la 77e session de l'Assemblée générale des Nations Unies à New York, à laquelle participera le Millennium Project représenté par Jerome Glenn, son directeur exécutif.
Étant donné que les enjeux pourraient inclure l’extinction de l’humanité, le rapport prévient que nous ne pouvons pas nous permettre de retarder la mobilisation de la coopération mondiale. Si nous ne parvenons pas à une convention des Nations Unies sur l’AGI et à une agence des Nations Unies pour l’AGI pour appliquer les règles, les barrières de sécurité, l’audit et la vérification, alors diverses formes de superintelligence artificielle pourraient surgir hors de notre contrôle . En ce sens, le Projet du Millénaire appelle à des mesures urgentes pour créer une telle gouvernance aux niveaux national et international.