Une équipe de la Université Sapienza de Rome a développé une nouvelle version de Daydreaming, un algorithme pour les réseaux de Hopfield, modèles classiques de mémoire artificielle inspirés du cerveau, qui permet à ces systèmes d'intelligence artificielle de gérer des données biaisées du monde réel sans perdre leur capacité à se souvenir de l'important, un avancement qui vise des modèles plus compréhensibles et avec une consommation d'énergie réduite, selon le portail spécialisé TechXplore.
La nouvelle méthode, appelée Centered Daydreaming, a maintenu presque intacte la capacité de récupération des souvenirs du réseau même lorsqu'elle a été entraînée avec des données fortement biaisées. Le problème apparaît dans une information peu équilibrée, comme des images très sombres ou surexposées, où les pixels noirs ou blancs prédominent presque complètement.
Les réseaux de Hopfield, proposés par John Hopfield en 1982, sont l'un des modèles classiques de mémoire associative en IA. Federico Ricci-Tersenghi, professeur de physique théorique de l'université et l'un des auteurs de l'étude, a expliqué : “Chaque fois que nous voyons un arbre, notre cerveau se souvient du concept d'arbre. À cette capacité d'associer de nombreuses représentations différentes avec un même concept, nous l'appelons mémoire associative”.
La réseau fonctionne de manière similaire. S'il a été entraîné avec des images d'arbres, de chiens et de pommes, il peut lier une nouvelle image de n'importe quel de ces objets au concept correct, même lorsque l'image est partiellement dégradée.
Capacité originale limitée par des souvenirs faux
La forme la plus simple d'un réseau de Hopfield ne peut stocker qu'une quantité de souvenirs équivalente à environ 13% de son nombre de neurones. Un réseau avec 100 neurones, par exemple, ne peut garder que 13 souvenirs.
Le reste de la mémoire est occupé par des “souvenirs faux, attracteurs de la dynamique qui ne correspondent à aucun souvenir réel”, a détaillé Ricci-Tersenghi. Ces souvenirs spuriés mélangent des éléments de souvenirs véritables, comme une sorte d'hallucination, et en plus d'occuper de l'espace, ils peuvent induire des erreurs.
Pour résoudre ce problème, des algorithmes inspirés par le rôle du rêve dans le cerveau biologique ont été proposés. Après la phase d'apprentissage, le réseau reste “rêvant” : à partir de configurations aléatoires, il explore sa propre mémoire et tente de la nettoyer de souvenirs spuriés.
Ce processus avait une limite claire. Si le nettoyage dure trop longtemps, le réseau efface également des souvenirs corrects, un phénomène connu sous le nom de oubli catastrophique.
En 2025, l'équipe a présenté Daydreaming, une technique qui combine simultanément l'apprentissage de nouveaux souvenirs avec l'élimination des spuriés. “Nous combinons l'apprentissage diurne avec la phase de nettoyage et de consolidation du rêve, comme si nous rêvions aussi pendant la journée”, a déclaré le chercheur.
Grâce à cette stratégie, la capacité du réseau a augmenté jusqu'à la limite théorique de 100% : un souvenir par neurone. Cependant, il restait une limitation importante : l'algorithme original ne résolvait pas ce qui se passait lorsque les données n'étaient pas équilibrées.
Une méthode axée sur les variations de la moyenne
Les réseaux de Hopfield fonctionnent très bien avec des données parfaitement équilibrées. Dans des images en noir et blanc, cela implique que le nombre de pixels blancs et noirs soit à peu près le même.
Les données réelles ont rarement cet ordre. Dans des photographies très surexposées, presque tous les pixels peuvent être blancs ; dans des images très sombres, cela peut être l'inverse. Dans ces cas, les images deviennent très similaires entre elles et le réseau a des difficultés à identifier quels traits distinguent vraiment un souvenir d'un autre.
Les solutions proposées jusqu'à présent nécessitaient des opérations globales sur tout le réseau. Selon l'auteur cité, cette approche semble peu plausible d'un point de vue biologique, car les neurones réels se connectent à un nombre limité d'autres neurones et ne communiquent pas avec tout le cerveau.
La nouvelle proposition introduit une modification locale de l'algorithme basée sur des différences. L'idée peut être comprise avec un exemple de reconnaissance faciale : si toutes les photos sont des gros plans avec un fond similaire, de nombreux pixels seront presque identiques dans toutes les images et cette information partagée peut dominer l'apprentissage.
“Si, en revanche, nous travaillons uniquement sur ce qui change par rapport au visage moyen, les différences apparaissent clairement”, a expliqué le chercheur. Au lieu de comparer des valeurs absolues des pixels, Centered Daydreaming compare leur écart par rapport à la moyenne.
Le studio, publié dans Journal of Statistical Mechanics: Theory and Experiment (JSTAT), a montré que cette version étend l'algorithme à des conditions beaucoup plus proches du monde réel sans abandonner des règles d'apprentissage locales, que les chercheurs considèrent comme plus plausibles d'un point de vue biologique.
Pour les auteurs, comprendre comment ces modèles simples inspirés du cerveau apprennent à séparer ce qui est pertinent de ce qui ne l'est pas pourrait contribuer à l'avenir au développement de systèmes d'intelligence artificielle plus faciles à interpréter et plus efficaces en consommation d'énergie.