Demis Hassabis, président de Google DeepMind, le laboratoire de recherche et développement en intelligence artificielle (IA) de Google, a soutenu l'avertissement des dirigeants du secteur tels que Dario Amodei, directeur général d'Anthropic ; Elon Musk, à la tête de SpaceX ; et Sam Altman, fondateur d'OpenAI, concernant les risques liés à l'accélération du développement de l'IA sans contrôles.
La position du scientifique britannique coïncide avec la proposition d'Amodei de modérer le rythme d'amélioration des capacités des systèmes. « Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'IA. Le progrès continuera d'être rapide, et nous devons utiliser judicieusement le temps que nous gagnons », a déclaré le chef d'Anthropic.
Pour Hassabis, « l'article de Dario pointe vers la bonne direction à suivre. Il reste encore des détails à définir, mais l'orientation est appropriée pour faire face à ce moment crucial ».
Pourquoi le dirigeant de Google considère que c'est un moment décisif
Hassabis a affirmé que l'humanité traverse une étape qui peut redéfinir sa relation avec la technologie. Selon sa projection, l'arrivée de l'Intelligence Artificielle Générale (IAG), comprise comme un système ayant des capacités cognitives comparables à celles du cerveau humain, pourrait se produire dans un délai proche.
Le dirigeant a affirmé que les prochaines décennies permettront de qualifier cette période comme le début d'une transformation profonde. « Lorsque nous regarderons en arrière dans les prochaines décennies, je pense que nous réaliserons que nous étions à l'aube de la singularité », a-t-il exprimé.
Quels sont les risques qui préoccupent les leaders technologiques
Amodei a souligné que le pouvoir des modèles actuels et futurs pose des menaces qui ne peuvent pas être traitées comme de simples effets secondaires mineurs. « Comme beaucoup de technologies précédentes, l'IA comporte des risques, et en raison de son grand pouvoir, ces risques sont graves », a affirmé le directeur général d'Anthropic.
L'entrepreneur a énuméré la perte de contrôle sur les systèmes d'IA, l'utilisation de ces outils dans les cyberattaques et le bioterrorisme, ainsi que des perturbations économiques possibles. Hassabis a convenu que les avancées de pointe ouvrent déjà des défis pour la cybersécurité et peuvent amplifier les risques nucléaires et biologiques.
À son avis, cette possibilité exige que les gouvernements et les entreprises prennent des décisions avant que les systèmes n'atteignent des niveaux d'autonomie plus élevés.
Pourquoi le dirigeant de Google demande des politiques qui accompagnent l'innovation
Hassabis a décrit une compétition commerciale et géopolitique qui accélère le développement de modèles toujours plus capables. Il estime que cette dynamique peut stimuler les bénéfices scientifiques et économiques, mais peut amener la capacité technique à avancer plus rapidement que la connaissance de ses conséquences.
« Personne au monde ne sait avec certitude ce qui se passera à partir de maintenant, et même les experts sont en désaccord », a-t-il affirmé. Pour cette raison, il a proposé des politiques publiques qui préservent l'innovation, récompensent la responsabilité des entreprises, renforcent la sécurité et promeuvent la coopération internationale.
Comment fonctionnerait l'organisme de contrôle des modèles d'IA
La proposition de Google prévoit la création aux États-Unis d'un organisme de normalisation pour l'IA, avec une participation publique et privée. Il pourrait prendre la forme d'une entité supervisée par le gouvernement fédéral ou d'une organisation d'autorégulation similaire à l'Autorité Régulatrice de l'Industrie Financière, connue sous le nom de FINRA.
Cet organisme définirait les paramètres pour établir quels modèles appartiennent à la catégorie frontière et coordonnerait les tests avec les agences fédérales et les laboratoires nationaux.
Les entreprises qui développent ces systèmes devraient présenter des fiches techniques, renforcer leur cybersécurité, réviser l'adéquation du personnel clé et affecter des ressources à la recherche sur la sécurité.
Quels tests les systèmes d'IA devraient-ils réussir avant d'arriver sur le marché
Hassabis a proposé que les laboratoires partagent volontairement leurs modèles avec l'organisme jusqu'à 30 jours avant leur lancement. Après avoir démontré que le protocole fonctionne, le processus pourrait devenir obligatoire pour permettre la mise sur le marché américain de modèles frontières.
Les évaluations incluraient des tests sur les capacités de cybersécurité, les menaces biologiques et d'autres domaines à haut risque. Elles devraient identifier les tentatives de contournement des sauvegardes ou les comportements trompeurs dans les systèmes avec agents autonomes. Le schéma prévoit des révisions périodiques des paramètres et la participation d'auditeurs externes.
L'initiative américaine, selon Hassabis, pourrait servir de base à des normes internationales partagées. Le dirigeant a suggéré que, si la situation l'exigeait, les laboratoires frontières devraient même coordonner un ralentissement de leurs développements pour réduire les risques avant de libérer des modèles plus puissants.