Le hasard inspiré du cerveau rend l'IA plus robuste en laboratoire

Un système de vision peut lire un panneau de signalisation en plein jour et échouer sur le même panneau à moitié masqué par du bruit. Les humains commettent rarement cette erreur. Une équipe de l'Institut Hertie de recherche clinique sur le cerveau, à Tübingen, a cherché à comprendre pourquoi, puis à vérifier si cette réponse pouvait être transposée dans un logiciel. Ses conclusions, publiées dans la revue Patterns, montrent que deux caractéristiques inspirées du cerveau fonctionnent mieux ensemble que séparément : selon l'étude, leur combinaison rend la reconnaissance d'images nettement plus fiable.

La première caractéristique est ce que les neuroscientifiques appellent la rétroaction descendante. Quand nous voyons, l'information ne circule pas simplement des yeux vers le cerveau. Les aires cérébrales supérieures renvoient aussi des signaux vers les étapes de traitement antérieures, et influencent ainsi la manière dont les informations sensorielles entrantes sont traitées. La plupart des réseaux de neurones artificiels ne disposent pas d'un tel chemin de retour. La seconde caractéristique est la variabilité neuronale, c'est-à-dire les fluctuations aléatoires de l'activité des cellules nerveuses. L'équipe, dirigée par le professeur Markus Siegel, avec pour premier auteur le Dr Antonino Greco, a voulu savoir si la rétroaction ne devient utile qu'associée à ce hasard.

L'expérience est simple à décrire. Les chercheurs ont entraîné des réseaux de neurones à reconnaître des images, les uns avec rétroaction, les autres sans. Pour imiter de manière simplifiée le hasard du cerveau, ils ont temporairement désactivé au hasard des unités du réseau pendant l'entraînement. La rétroaction seule apporte peu de bénéfice. Avec la désactivation aléatoire, les réseaux sont devenus nettement plus robustes au bruit d'image et aux modifications ciblées qui provoquent des erreurs de classement ; ils ont aussi mieux réussi sur des images différentes des données d'entraînement. « Nous supposions que la rétroaction descendante suffirait à elle seule, explique Greco. Mais cette hypothèse ne s'est pas vérifiée. La rétroaction ne devient efficace qu'une fois que le réseau a appris à composer avec le hasard. »

Les analyses des chercheurs suggèrent une répartition des rôles. La variabilité aléatoire empêche les unités individuelles de devenir trop dépendantes les unes des autres pendant l'apprentissage, et rend l'activité du réseau plus irrégulière. La rétroaction utilise ensuite les informations issues des étapes supérieures pour organiser cette activité en motifs plus stables et plus compacts. Les deux mécanismes jouent des rôles différents, et l'étude indique qu'ils se complètent.

Pour les ingénieurs qui conçoivent des systèmes de vision, le gain immédiat est une méthode d'entraînement à tester, et non un produit fini. Les chercheurs présentent cette approche comme un moyen possible de rendre à l'avenir la vision artificielle plus robuste aux perturbations d'image. Ces travaux servent aussi la recherche sur le cerveau, car de tels modèles aident à mieux comprendre comment le cerveau traite l'information. Les réseaux étudiés sont des simulations, et la désactivation aléatoire n'est qu'un substitut simplifié de la variabilité cérébrale. L'étude ne rapporte pas d'essais dans des voitures, des appareils médicaux ou d'autres dispositifs réels, et elle ne donne aucun calendrier pour cette étape.