MIT: un sistema explica decisiones de robotaxi en pista privada

Cuando un robotaxi de Motional se acercó a un ciclista en una pista privada, se detuvo de forma constante. Un nuevo sistema desarrollado por el MIT y Motional proporcionó una explicación en tiempo real junto a la trayectoria prevista del vehículo, dando al conductor de seguridad humano algo más que el simple hecho de que se había detenido.

Esto es importante porque el planificador —el software que decide qué debe hacer el coche a continuación— funciona como el cerebro del vehículo. Procesa los datos de las cámaras y los sensores lidar, construye una imagen de alto nivel del entorno, selecciona una acción y genera una trayectoria. Los planificadores basados en aprendizaje profundo pueden ser difíciles de inspeccionar, lo que deja a las personas sin saber con certeza por qué se producen comportamientos inesperados, como un frenazo fantasma o una detención que podría bloquear a un vehículo de emergencia que se aproxima.

El sistema, llamado Concept-Wrapper Network o CW-Net, es un clasificador de conceptos: un módulo de inteligencia artificial entrenado para identificar ideas de alto nivel en los datos de entrada del vehículo. Se coloca dentro del planificador existente y hace que la parte final de ese planificador utilice conceptos como «vehículo detenido aproximándose» y «cerca de un ciclista». El objetivo de ese vínculo es que la explicación sea fiel a la decisión real, en lugar de producir una historia verosímil a posteriori. Los investigadores diseñaron CW-Net para imitar las decisiones de conducción del planificador, de modo que no afectara negativamente al rendimiento.

Los investigadores entrenaron CW-Net con 130 millones de ejemplos de escenas de conducción autónoma, cada uno con múltiples conceptos etiquetados. En la prueba en pista privada, el artículo informa de que los conductores de seguridad mejoraron su capacidad para predecir el comportamiento del robotaxi en situaciones sorprendentes. Una simulación más amplia con usuarios no expertos produjo resultados similares. Julie Shah, profesora del MIT y coautora principal, afirmó que las explicaciones pueden ayudar a las personas a construir un modelo mental más preciso del sistema.

En términos concretos, el beneficio inmediato no consiste en que un coche sin conductor pase de repente a estar libre de errores. Se trata de ofrecer mejor información a las personas que deben supervisar el vehículo y a los ingenieros que pueden utilizar las explicaciones en directo para solucionar problemas en sus sistemas de inteligencia artificial. El trabajo sigue en fase de pruebas: las pruebas presentadas proceden de un robotaxi en una pista privada y de una simulación, mientras que los beneficios más sólidos en seguridad y transparencia se describen como posibilidades a largo plazo.