Des chercheurs de la Université d'Osnabrück et de la Freie Universität Berlin ont développé une méthode d'entraînement pour les réseaux neuronaux de vision artificielle qui reproduit la maturation visuelle humaine depuis l'enfance, dans le but de réduire la vulnérabilité de ces systèmes aux erreurs et aux attaques délibérées, selon le portail spécialisé en technologie TechXplore.
Le modèle, appelé developmental visual diet (DVD, pour son acronyme en anglais), entraîne les réseaux avec des capacités visuelles progressives qui avancent de manière séquentielle, tout comme cela se produit dans le développement infantile.
Cette approche cherche à corriger un écart connu entre la vision humaine et artificielle : les modèles actuels priorisent la texture —variations de couleur et motifs de surface— tandis que les humains identifient les objets par leur forme et contour. Cette discordance, selon l'équipe, est l'une des raisons pour lesquelles les systèmes actuels commettent plus d'erreurs que les yeux humains.
« Nous étions convaincus que la faible robustesse des réseaux neuronaux profonds était due à leur dépendance aux caractéristiques de texture, qui, à leur tour, semble résulter de la manière dont ils sont entraînés », a déclaré Tim C. Kietzmann, auteur principal de l'étude et professeur à l'Université d'Osnabrück.
Pour illustrer le problème, l'auteur a récupéré une observation du professeur Alexei Efros, de l'Université de Californie à Berkeley : « Nous sommes en train d'élever une génération d'algorithmes comme des étudiants universitaires qui n'ont pas assisté aux cours pendant tout le semestre, et la nuit avant l'examen, ils se mettent à étudier ; ils n'apprennent pas réellement le contenu, mais réussissent l'examen. »
Pour inverser ce schéma, l'équipe a examiné une large variété de travaux sur le développement visuel infantile et a identifié trois facteurs biologiques pertinents : acuité visuelle, sensibilité au contraste et perception des couleurs. Le modèle, détaillé dans la revue Nature Machine Intelligence, reproduit le progrès naturel de ces facteurs pendant la première enfance : les systèmes d'intelligence artificielle commencent avec des capacités visuelles limitées et atteignent, de manière progressive, une perception détaillée, de manière similaire à ce qui se passe avec les bébés.
Résultats : plus de robustesse sans sacrifier la vitesse
En mettant à l'épreuve la nouvelle stratégie, les chercheurs ont observé que les modèles basés sur le DVD utilisaient préférentiellement des informations liées à la forme des objets. En outre, ils étaient moins vulnérables aux corruptions des images et aux attaques adverses intentionnelles, et ont surpassé les méthodes conventionnelles dans la reconnaissance de formes abstraites cachées dans des scénarios complexes, une tâche où même les algorithmes les plus avancés échouent souvent.
Cette robustesse ne dépend pas de la taille ni de l'échelle des modèles, un aspect qui distingue le DVD d'autres tendances récentes en intelligence artificielle. Comme l'a souligné Kietzmann : « En ce moment, 'augmenter l'échelle' est souvent la réponse pour résoudre les problèmes d'IA ; ceci est une alternative à petite échelle. Comme le DVD est un canal de prétraitement, il n'affecte guère les temps d'entraînement et l'inférence se fait sur des images de haute résolution, de sorte que les modèles conservent la même vitesse que les originaux ».
En termes pratiques, la méthode permet d'entraîner des architectures plus petites avec moins de données sans perdre en précision ni en résistance aux perturbations. Cela ouvre une voie pour le développement de systèmes visuels artificiels applicables à des tâches allant de la reconnaissance faciale à la génération d'images avec des qualités spécifiques.
Au-delà de la robustesse : cadres inspirés par le développement biologique
L'équipe estime que cette avancée pourrait conduire à la conception de cadres de formation inspirés par le développement cérébral et sensoriel humain. Le potentiel de la stratégie DVD n'est pas limité à la robustesse : elle offre une solution technique qui, selon les auteurs, pourrait également être transférée à des modèles de réseaux neuronaux artificiels utilisés comme modèles du cerveau.
Kietzmann a anticipé que ses prochaines études chercheraient de nouvelles sources d'inspiration en neurobiologie pour augmenter la fiabilité et la performance des systèmes de vision artificielle. « Nous explorons maintenant d'autres concepts inspirés par le cerveau et le développement sensoriel, qui pourraient donner lieu à des systèmes de vision artificielle plus robustes. En même temps, nous examinons les implications des découvertes du DVD pour utiliser les réseaux neuronaux artificiels comme modèles de la fonction cérébrale », a-t-il déclaré.
Parmi les contributions techniques les plus pertinentes de cette approche, le canal DVD n'affecte guère le temps requis pour entraîner les modèles. Les systèmes peuvent traiter des images de haute résolution avec la même rapidité que les méthodes conventionnelles, ce qui renforce leur utilité dans des applications à grande échelle où l'efficacité computationnelle est une priorité.