Elon Musk, fondateur de xAI, partage l'inquiétude d'autres leaders du secteur en avertissant que les données du monde réel disponibles pour entraîner des modèles d'intelligence artificielle arrivent à leur limite. Cette pénurie pose de nouveaux défis et oblige à explorer des alternatives, comme l'utilisation de données synthétiques, pour continuer à stimuler les développements dans ce domaine.
L'épuisement des données réelles et l'essor des données synthétiques en IA
Lors d'une transmission en direct avec Mark Penn, président de Stagwell, sur X, Elon Musk a affirmé : « Nous avons pratiquement épuisé toutes les connaissances humaines accumulées... dans l'entraînement de l'IA ».
Il assure que ce phénomène s'est produit « pratiquement l'année dernière », ce qui coïncide avec l'avertissement d'Ilya Sutskever, ancien directeur scientifique d'OpenAI, qui, lors de la conférence NeurIPS, a évoqué le « pic des données » et la nécessité de changer la stratégie de développement des modèles.
Face à la pénurie de données réelles, Musk soutient que « la seule façon de compléter [les données du monde réel] est avec des données synthétiques, où l'IA crée [des données d'entraînement] ».
Cette approche implique que les modèles d'intelligence artificielle génèrent eux-mêmes des informations pour leur auto-apprentissage, passant par des processus d'auto-évaluation et d'amélioration continue.
Grands technologiques et entraînement avec des données générées par l'IA
Des entreprises comme Microsoft, Meta, OpenAI et Anthropic utilisent déjà des données synthétiques pour entraîner leurs modèles les plus avancés. Selon des estimations de Gartner, en 2024, 60 % des données utilisées dans des projets d'IA et d'analyse seront générées synthétiquement.
Des cas concrets illustrent cette tendance : le modèle Phi-4 de Microsoft, publié sous forme de code ouvert en 2025, a été entraîné en combinant des données réelles et synthétiques. Google a adopté la même stratégie avec ses modèles Gemma.
Anthropic a eu recours à des données générées par IA pour créer Claude 3.5 Sonnet, tandis que Meta a utilisé ce type d'information pour perfectionner sa série Llama.
Un avantage supplémentaire de l'utilisation de données synthétiques est l'économie de coûts ; par exemple, le modèle Palmyra X 004 de la startup Writer a été développé presque exclusivement avec des sources synthétiques, réduisant les coûts à 700 000 USD contre 4,6 millions USD estimés pour un modèle de taille similaire entraîné avec des données réelles.
Avantages et risques des données synthétiques pour entraîner l'intelligence artificielle
Bien que l'entraînement avec des données synthétiques permette de contourner le manque d'informations et de réduire les dépenses, cela comporte également des risques. Des recherches récentes avertissent que l'utilisation excessive de données générées par IA peut provoquer l'« effondrement du modèle », un phénomène où l'IA devient moins créative et plus susceptible de reproduire des biais, limitant son utilité et sa capacité à résoudre divers problèmes.
Les biais et limitations présents dans les données synthétiques peuvent être transférés aux modèles, compromettant leur fonctionnalité dans des tâches réelles.
Ainsi, l'industrie de l'intelligence artificielle fait face au défi d'équilibrer l'utilisation de données synthétiques pour maintenir l'avancée technologique sans sacrifier la qualité, la diversité et la créativité des résultats.
Elon Musk alerte sur la disparition d'une profession
Lors d'une réunion interne de xAI et pendant ses interventions au Forum économique mondial de Davos 2026, Elon Musk a proposé un tournant radical dans la discussion sur l'avenir du travail à l'ère numérique.
Selon Musk, d'ici la fin de 2026, la programmation traditionnelle ne sera plus une préoccupation, car l'intelligence artificielle atteindra un niveau de développement tel que le travail ne sera qu'une option et non une nécessité.
Musk anticipe que, dans ce scénario, les programmeurs n'auront plus besoin d'écrire du code ligne par ligne. Il suffira de décrire ce que l'on veut accomplir à un chatbot, qui se chargera de générer automatiquement les fichiers exécutables nécessaires.
L'entrepreneur considère que le changement sera si profond que, vers la fin de cette année, la programmation manuelle sera obsolète grâce à la capacité des modèles d'IA à interpréter des instructions en langage naturel et à produire des solutions prêtes à l'emploi.