Le système du MIT explique les choix d’un robotaxi sur circuit privé

Alors qu’un robotaxi de Motional s’approchait d’un cycliste sur un circuit privé, il s’arrêtait systématiquement. Un nouveau système mis au point par le MIT et Motional fournissait une explication en temps réel en parallèle de la trajectoire prévue par le véhicule, donnant au conducteur de sécurité humain davantage que le simple fait que le véhicule s’était arrêté.

C’est important, car le planificateur — le logiciel qui décide de ce que la voiture doit faire ensuite — fonctionne comme le cerveau du véhicule. Il traite les données des caméras et des capteurs lidar, construit une représentation générale de l’environnement, sélectionne une action et produit une trajectoire. Les planificateurs fondés sur l’apprentissage profond peuvent être difficiles à examiner, laissant les utilisateurs dans l’incertitude face à des comportements inattendus comme un freinage fantôme ou un arrêt susceptible de bloquer un véhicule d’urgence arrivant en sens inverse.

Le système, appelé Concept-Wrapper Network, ou CW-Net, est un classificateur de concepts : un module d’IA entraîné à identifier des idées générales dans les données reçues par le véhicule. Il est intégré au planificateur existant et fait utiliser à sa dernière partie des concepts comme « approche d’un véhicule à l’arrêt » et « proche d’un cycliste ». Ce lien vise à maintenir une explication fidèle à la décision réelle plutôt qu’à produire après coup un récit plausible. Les chercheurs ont conçu CW-Net pour reproduire les décisions de conduite du planificateur, afin qu’il ne nuise pas aux performances.

Les chercheurs ont entraîné CW-Net sur 130 millions d’exemples de scènes de conduite autonome, chacun contenant plusieurs concepts annotés. Lors de l’essai sur circuit privé, l’article indique que les conducteurs de sécurité sont devenus plus aptes à prédire le comportement du robotaxi dans des situations surprenantes. Une simulation plus vaste menée avec des utilisateurs non spécialistes a produit des résultats similaires. Julie Shah, professeure au MIT et coauteure principale de l’étude, a déclaré que les explications pouvaient aider les utilisateurs à se faire une représentation mentale plus juste du système.

Concrètement, le bénéfice immédiat n’est pas qu’une voiture autonome devienne soudainement exempte d’erreurs. Il réside dans l’amélioration des informations fournies aux personnes chargées de superviser le véhicule et aux ingénieurs, qui peuvent utiliser les explications en direct pour diagnostiquer ses systèmes d’intelligence artificielle. Les travaux en sont encore au stade des tests : les éléments rapportés proviennent d’un robotaxi testé sur circuit privé et d’une simulation, tandis que des gains plus importants en matière de sécurité et de transparence sont présentés comme des possibilités à plus long terme.