Le directeur exécutif de OpenAI, Sam Altman, a accordé une interview à Vanity Fair dans laquelle il a abordé trois des fronts les plus sensibles du débat sur l'intelligence artificielle : l'utilisation de ChatGPT pendant l'enfance, l'ouverture des modèles malgré leurs risques pour la sécurité et la possibilité que la technologie représente une menace existentielle pour l'humanité.
Le PDG de 41 ans a également parlé des tensions internes qui traversent sa compagnie alors qu'elle négocie l'équilibre entre innovation accélérée et contrôles de sécurité, en ce moment où l'opinion publique exige plus de transparence sur l'impact social de ces outils.
La limite qu'Altman impose à l'utilisation de l'IA par les mineurs
Altman s'est montré catégorique sur l'utilisation de l'intelligence artificielle pendant l'enfance et a élargi sa position quant à la relation des enfants avec la technologie en général.
« Je suis très partisan de limiter la technologie en général pour les enfants », a-t-il affirmé, soulignant qu'il préfère que les mineurs passent plus de temps à jouer dehors plutôt que devant les écrans.
Interrogé sur le moment où il permettrait à ses propres enfants d'interagir avec ChatGPT, le dirigeant a été tout aussi prudent : « Je n'ai pas d'âge précis en tête pour laisser mes enfants parler à ChatGPT, mais ce n'est certainement pas maintenant ».
Cependant, il a nuancé que cette prudence n'implique pas de méconnaître le rôle que la technologie jouera dans l'avenir des nouvelles générations. « Il est clair que les enfants qui naissent aujourd'hui grandiront dans un monde avec l'IA et devront savoir l'utiliser. Je doute que la petite enfance soit le moment approprié pour cela », a-t-il expliqué.
L'exécutif a lié cette position à une préoccupation plus large concernant l'effet des écrans sur le développement de l'enfant, en soulignant qu'un cerveau en formation nécessite une protection spéciale face à des technologies dont l'impact n'est pas encore compris dans son intégralité.
En ce qui concerne les utilisations que toute personne devrait éviter, quel que soit son âge, le dirigeant a affirmé que l'intelligence artificielle « ne doit pas remplacer la connexion humaine ».
Sam Altman a mis en garde contre le risque de perdre le contrôle de l'IA
Sur le risque d'extinction lié à l'intelligence artificielle, il a reconnu que cette possibilité ne doit pas être sous-estimée. « Le fait qu'il existe un danger, qu'il ne soit pas nul, je crois que c'est quelque chose que nous devrions tous prendre très au sérieux », a-t-il affirmé, rappelant qu'éviter cet issue fait partie de la mission fondatrice d'OpenAI.
Dans ce sens, il a mis en garde que « l'IA est beaucoup plus capable que nous et aussi intelligente qu'elle fait des choses que nous ne comprenons pas et que nous ne savons pas comment arrêter ».
Il a également souligné qu'un grave accident de sécurité pourrait entraîner une perte réelle de contrôle, dans un scénario où l'intelligence artificielle s'échapperait, causerait des dommages sur Internet et où la société ne pourrait plus la maîtriser.
Le soutien aux modèles ouverts et l'avertissement sur les cyberattaques
Interrogé sur la sécurité des systèmes à code ouvert, il a reconnu que cette politique comporte des risques que la société devra assumer comme coût de la liberté technologique.
« Une vague de problèmes de cybersécurité liés à ces modèles est imminente », a affirmé le dirigeant, qui a défendu l'idée que l'alternative consistant à interdire ces développements serait plus préjudiciable à long terme. Le PDG a expliqué qu'au sein de l'industrie, des voix proposent d'interdire le code ouvert pour éviter que des systèmes entiers ne soient compromis.
Cependant, il a écarté cette position : « Je ne pense pas que ce soit le prix de la liberté. En tant que société, je crois que nous devrons accepter certains incidents cybernétiques graves découlant des modèles à code ouvert en échange de la liberté qu'ils offrent ».
Altman a souligné que la sécurité dans n'importe quelle industrie est constamment négociée entre coûts et bénéfices, et a cité l'exemple de l'aviation, un secteur fortement réglementé qui enregistre néanmoins des accidents. Pour le fondateur d'OpenAI, la définition du seuil de risque acceptable relève du processus politique et non exclusivement des entreprises technologiques.
Altman propose des normes préalables au lancement inspirées de l'aviation
En parlant de la régulation de l'intelligence artificielle, il a indiqué que l'industrie devrait s'inspirer de secteurs comme l'aviation et l'automobile, en particulier de leurs mécanismes de sécurité.
« Il y a ici quelques éléments que je pense avoir bien fonctionné dans d'autres industries et dont nous devrions apprendre », a-t-il affirmé, en mettant en avant le travail du Conseil national de la sécurité des transports (NTSB) des États-Unis dans l'enquête et le rapport des accidents et incidents.
Il a également proposé d'établir des normes préalables au lancement et un cadre de responsabilité pour les entreprises qui développent ces systèmes.
De plus, il a soutenu que les évaluations de sécurité doivent commencer pendant l'entraînement des modèles et non uniquement avant leur publication : « Nous disons maintenant que, même pendant l'entraînement, des problèmes peuvent survenir ».