Les intelligences artificielles conduisent actuellement des véhicules , créent de la musique , aident à sélectionner des candidats pour des emplois et traduisent nos voix dans d'autres langues. Il ne s’agit plus d’une promesse d’avenir, mais plutôt d’un événement qui se produit actuellement, quelque part dans le monde.
Jour après jour, les possibilités pour ces utilisations et bien d’autres augmentent. Cependant, nous sommes confrontés à un problème sérieux : nous ne disposons pas de suffisamment de matériel pour faire face à la demande croissante de systèmes basés sur l'intelligence artificielle , qui nécessitent également une consommation d'énergie folle.
Facundo Molina , chercheur postdoctoral en tests et analyses de logiciels chez IMDEA SOFTWARE, a publié un article dans The Conversation dans lequel il explique ce que nécessite la demande de logiciels et de matériel pour tout ce qui se passe avec l'IA, ainsi que ce qu'il faut pour continuer à développer cette croissance. industrie.
Trois millions d'applications disponibles
En janvier 2024, la société OpenAI, créatrice d'applications telles que ChatGPT et DALL-E, a publié GPT Store, un magasin cloud avec des applications d'IA personnalisées, à partir duquel des versions adaptées de ChatGPT peuvent être créées. Par exemple, Tutor Me, qui peut nous aider avec des questions en mathématiques, sciences et sciences humaines ; Murder Mystery Mayhem, un jeu de mystère pour résoudre des affaires criminelles générées par l'intelligence artificielle ; et plein d'autres.
Selon l'entreprise elle-même, le magasin compte déjà plus de 3 millions d'applications.
Molina ajoute dans l'article que les grands modèles de langage, ou LLM (Large Language Models), ont joué un rôle fondamental dans cette histoire. Grâce à la disponibilité croissante des systèmes basés sur l’IA, il est aujourd’hui relativement facile de créer des logiciels qui interagissent avec ou utilisent ces types de modèles. De plus, les investissements des grandes entreprises dans l’IA, ainsi que l’intérêt croissant pour la création de leur propre intelligence artificielle, ont provoqué une demande incroyable de matériel spécialisé.
Le chercheur souligne que, pour de nombreux développements basés sur l’intelligence artificielle, les machines sont nécessaires en raison de l’énorme demande de puissance de calcul qui ne peut être satisfaite.
Logiciel d'IA
Développer un logiciel utilisant un modèle de langage peut parfois être très simple
grâce au fait que de grandes entreprises comme OpenAI ou Google donnent déjà accès à nombre de leurs modèles via des applications cloud. Ce qui précède permet qu'en utilisant ces services, n'importe qui puisse développer un petit composant logiciel de quelques dizaines de lignes de code qui utilise, par exemple, le grand modèle de langage GPT-4 (celui utilisé par ChatGPT).
L'utilisation de ces services peut avoir un coût économique considérable, généralement lié au nombre de messages envoyés au modèle.
Comme cela s'est toujours produit tout au long de la brève histoire de l'informatique, de nombreux développeurs décident de publier leurs modèles de langage et ils peuvent être utilisés comme modèles gratuits. Par exemple, Meta permet de télécharger et d'utiliser librement les modèles de sa série Llama2. La plateforme HuggingFace est très populaire pour le grand nombre de modèles dont elle dispose en utilisation gratuite. La création de logiciels utilisant l'un de ces modèles présente presque la même complexité que l'utilisation de services cloud et peut être résolue avec quelques lignes de code.
Développer votre propre modèle d’IA peut être plus complexe. La construction de ces modèles nécessite une immense quantité de données (texte, images, etc.). Par conséquent, il est généralement nécessaire de développer un pipeline (l’ensemble du processus suivi par le code, depuis sa conception et sa mise en œuvre jusqu’à son déploiement) de logiciels robustes pour effectuer diverses tâches. Ces tâches incluent la collecte et la préparation des données, la définition de l'architecture du modèle, l'utilisation des algorithmes d'entraînement sur les données et enfin l'utilisation du modèle obtenu. Heureusement, il existe de nombreuses bibliothèques en ligne populaires pour simplifier le développement de logiciels pour ces tâches.
Cependant, le plus grand défi actuel réside dans la grande infrastructure matérielle nécessaire au fonctionnement raisonnable (en termes de temps de construction et de réponse) de ces modèles.
Matériel et IA
Selon le chercheur Facundo Molina, l'utilisation de modèles d'IA nécessite du matériel spécialisé, généralement des unités de traitement graphique (GPU).
Lorsque les modèles sont utilisés via un service cloud, le matériel est fourni par les prestataires de services (Google, OpenAI, etc.). Lors de l'utilisation de modèles gratuits, il faut choisir entre louer un service matériel ou acheter ses propres GPU. Ce dernier peut avoir un coût considérablement élevé.
Le problème devient encore plus grand si l'on veut construire son propre modèle. La formation d’un modèle d’IA est une tâche qui nécessite bien plus de puissance de calcul que son utilisation. Par exemple, la création et la formation du modèle GPT-4 ont coûté à OpenAI environ 100 millions de dollars ; Google a dépensé environ 8 millions de dollars pour construire PaLM 2. En général, la construction de LLM et d'autres modèles devient de plus en plus coûteuse chaque année.
Dans le même temps, de plus en plus d’argent est investi dans le matériel d’IA et les centres de données hautement équipés. Selon un article paru dans Communications of the ACM, entre mai 2022 et avril 2023, Nvidia a vendu pour 15 milliards de dollars de GPU, attribuant ces ventes principalement à l'utilisation de GPU pour l'IA. Amazon, Google et Microsoft ont également signalé une augmentation de leurs dépenses liées à la maintenance des centres de données. En raison de cette demande croissante, ils ont publié en 2023 plusieurs rapports mettant en garde contre le manque de GPU.
Aujourd’hui, nous disposons de vastes quantités d’espace de stockage (le cloud semble infini), d’un traitement ultra-rapide et de serveurs partout acceptant et fournissant des informations. Mais l’IA est confrontée à des limitations matérielles.
La suggestion du chercheur est de « simplifier le manuel d’instructions ».
« L'avalanche de nouveaux modèles d'IA et le manque de ressources informatiques nécessaires pour les construire (y compris l'immense consommation d'énergie) génèrent la nécessité de réduire ce type de modèles sans perdre leurs principales caractéristiques. L’objectif est d’avoir un impact négligeable sur leurs performances », conclut-il dans l’article.
Réduire les coûts et la consommation d’énergie des systèmes d’IA des bâtiments devrait être une préoccupation de la société et, principalement, de tous les informaticiens et développeurs d’IA. Nous y sommes.