Azar y retroalimentación: IA visual más robusta, solo en simulación

Un sistema de visión puede leer una señal de tráfico con luz diurna clara y fallar con esa misma señal medio oculta por el ruido. Las personas rara vez cometen ese error. Un equipo del Instituto Hertie para la Investigación Clínica del Cerebro, en Tubinga, se propuso averiguar por qué y comprobar después si la respuesta podía trasladarse al software. Sus conclusiones, publicadas en la revista Patterns, muestran que dos rasgos inspirados en el cerebro funcionan mejor juntos que por separado: según el estudio, la combinación hace que el reconocimiento de imágenes sea considerablemente más fiable.

El primer rasgo es lo que los neurocientíficos llaman retroalimentación descendente. Cuando vemos, la información no circula simplemente desde los ojos hasta el cerebro. Las áreas superiores del cerebro también envían señales hacia las etapas de procesamiento anteriores, y con ello condicionan la manera en que se gestiona la información sensorial que llega. La mayoría de las redes neuronales artificiales carecen de ese camino de retorno. El segundo rasgo es la variabilidad neuronal, las fluctuaciones aleatorias en la actividad de las neuronas. El equipo, dirigido por el profesor Markus Siegel, con el investigador Antonino Greco como primer autor, quiso saber si la retroalimentación solo resulta útil cuando se combina con esa aleatoriedad.

El experimento era sencillo de describir. Los investigadores entrenaron redes neuronales para reconocer imágenes, unas con retroalimentación y otras sin ella. Para imitar de forma simplificada la aleatoriedad del cerebro, desactivaron de manera temporal y aleatoria unidades individuales de la red durante el entrenamiento. La retroalimentación por sí sola aportó poco beneficio. Con la desactivación aleatoria añadida, las redes se volvieron considerablemente más robustas frente al ruido en las imágenes y frente a cambios dirigidos que provocan clasificaciones erróneas, y además rindieron mejor con imágenes diferentes de los datos de entrenamiento. «Supusimos que la retroalimentación descendente bastaría por sí sola», explica Greco. «Pero esa suposición no se confirmó. La retroalimentación solo resulta eficaz una vez que la red ha aprendido a gestionar la aleatoriedad».

Los análisis de los investigadores apuntan a un reparto de funciones. La variabilidad aleatoria evita que las unidades individuales dependan demasiado unas de otras durante el aprendizaje, y hace que la actividad de la red sea más irregular. Después, la retroalimentación utiliza la información de las etapas superiores para organizar esa actividad en patrones más estables y compactos. Los dos mecanismos cumplen funciones distintas, y el estudio sugiere que se complementan.

Para los ingenieros que diseñan sistemas de visión, la ganancia inmediata es un método de entrenamiento que probar, no un producto acabado. Los investigadores presentan el enfoque como una posible vía para que la visión artificial resista mejor, en el futuro, las perturbaciones de las imágenes, y el trabajo también sirve a la investigación del cerebro, ya que modelos de este tipo ayudan a aclarar cómo procesa la información. Las redes del estudio eran simulaciones, y la desactivación aleatoria es solo una simplificación de la variabilidad cerebral. El estudio no reporta pruebas en coches, equipos médicos ni otros dispositivos del mundo real, y tampoco ofrece calendario para ese paso.