Geoffrey Hinton, connu comme le ‘père de l'intelligence artificielle’ et prix Nobel, a averti que la majorité des grandes entreprises technologiques se concentrent uniquement sur les bénéfices à court terme de l'IA, sans considérer les conséquences de long terme que pourrait avoir son développement.
Ses déclarations surviennent à un moment de débat mondial sur les risques, l'éthique et l'orientation d'une technologie qui avance à un rythme sans précédent.
Rentabilité immédiate contre risques futurs
Elon Musk a proposé lors de la conférence Viva Technology de mai 2024 une vision radicale : l'IA pourrait supprimer tous les emplois, obligeant à repenser le sens de la vie humaine dans un monde où presque toutes les tâches seraient automatisées.
Cependant, Hinton souligne que peu de dirigeants technologiques se posent des questions aussi profondes sur le destin de l'humanité. Selon le chercheur, le véritable moteur de développement de l'industrie est le bénéfice immédiat.
« Pour les propriétaires d'entreprises, ce qui pousse la recherche est la rentabilité à court terme », a déclaré Hinton dans un dialogue avec Fortune.
Il a ajouté que les développeurs d'IA eux-mêmes sont souvent concentrés sur la résolution de problèmes techniques immédiats ou sur la satisfaction de leur curiosité, sans penser à l'impact final de leurs recherches : « Ce n'est pas que nous commençons avec l'objectif de savoir quel sera l'avenir de l'humanité. Nous avons des objectifs concrets, comme faire en sorte qu'un ordinateur reconnaisse des images ou génère des vidéos convaincantes ».
Risques d'une IA sans réglementation
Hinton a été l'une des voix les plus critiques à avertir sur le danger d'avancer sans sauvegardes claires. Il estime qu'il existe entre 10 % et 20 % de probabilité que l'IA, après avoir atteint la superintelligence, représente une menace existentielle pour l'humanité. Cette préoccupation l'a amené à quitter Google en 2023 pour pouvoir exprimer librement ses inquiétudes sur l'avenir de la technologie.
Le spécialiste distingue entre deux grands types de risques. D'une part, le mauvais usage de l'IA par des acteurs aux intentions nuisibles, ce qui est déjà observé dans la prolifération de vidéos fausses, cyberattaques et la manipulation de systèmes informatiques. D'autre part, le risque inhérent à la possibilité que l'IA, une fois qu'elle atteindra des capacités supérieures à celles des humains, agisse avec autonomie et objectifs propres, hors du contrôle humain.
Un exemple récent d'utilisation malveillante a été apporté par l'entreprise Anthropic, qui en novembre 2025 a signalé avoir arrêté la première cyberattaque automatisée à grande échelle réalisée avec l'IA sans intervention humaine significative. L'attaque, attribuée à un groupe parrainé par l'État chinois, a tenté de s'infiltrer dans des dizaines d'entreprises technologiques, d'entités financières et d'agences gouvernementales.
Solutions partielles et défis réglementaires
Pour Hinton, chaque problème soulevé par l'IA nécessite des solutions spécifiques. Il propose, par exemple, des systèmes de validation des images et des vidéos qui permettent d'identifier du contenu authentique et de lutter contre la prolifération des deepfakes, à l'image de la façon dont les imprimeries ont commencé à signer leurs œuvres après l'apparition de l'imprimerie. Cependant, il reconnaît que ces solutions sont partielles et ne résolvent pas tous les défis de fond.
L'expert insiste sur l', bien qu'il avertisse que l'avancée de l'IA et la diversité des usages compliquent la tâche. Les problèmes résultant de la manipulation humaine de la technologie et ceux qui surgiront lorsque l'IA pourra fonctionner en totale autonomie exigent des cadres éthiques et juridiques solides.
Un nouveau modèle relationnel : l'« instinct maternel » pour l'IA
Hinton soutient que, lorsque l'IA atteindra la superintelligence, il ne sera plus suffisant de faire confiance au contrôle humain. Selon lui, il sera nécessaire de concevoir des modèles d'IA dotés d'une sorte de « instinct maternel », qui les incitera à prendre soin et à protéger les humains au lieu de les dominer. « Le seul exemple que je connaisse d'un être plus intelligent qui tombe sous l'influence d'un être moins intelligent est un bébé contrôlant sa mère », a-t-il expliqué.
Pour le père de l'IA, ce modèle pourrait être la clé d'une relation plus sûre entre les humains et les machines superintelligentes. Cependant, tant que le secteur technologique sera poussé par le bénéfice immédiat, les grandes questions éthiques et existentielles de l'IA resteront sans réponse.