MIT spiega le decisioni dei robotaxi nei test su pista privata

Mentre un robotaxi di Motional si avvicinava a un ciclista su una pista privata, si fermava sistematicamente. Un nuovo sistema sviluppato dal MIT e da Motional forniva una spiegazione in tempo reale insieme alla traiettoria prevista del veicolo, dando al conducente di sicurezza umano qualcosa in più del semplice fatto che l’auto si fosse fermata.

Questo è importante perché il pianificatore, il software che decide che cosa debba fare l’auto dopo, funziona come il cervello del veicolo. Elabora i dati delle telecamere e dei sensori lidar, costruisce un quadro generale dell’ambiente circostante, seleziona un’azione e produce una traiettoria. I pianificatori basati sul deep learning possono essere difficili da esaminare, lasciando le persone nell’incertezza di fronte a comportamenti inattesi come una frenata fantasma o una fermata che potrebbe ostacolare un veicolo di emergenza in arrivo.

Il sistema, chiamato Concept-Wrapper Network, o CW-Net, è un classificatore di concetti: un modulo di intelligenza artificiale addestrato a individuare idee di alto livello nei dati ricevuti dal veicolo. È inserito nel pianificatore esistente e fa sì che la parte finale di quest’ultimo utilizzi concetti come «avvicinamento a un veicolo fermo» e «vicino a un ciclista». Questo collegamento dovrebbe mantenere la spiegazione fedele alla decisione effettiva, invece di produrre a posteriori una storia plausibile. I ricercatori hanno progettato CW-Net per imitare le decisioni di guida del pianificatore, così da non influire negativamente sulle prestazioni.

I ricercatori hanno addestrato CW-Net su 130 milioni di esempi di scene di guida autonoma, ognuno contenente diversi concetti etichettati. Nel test su pista privata, il documento riferisce che i conducenti di sicurezza sono diventati più bravi a prevedere il comportamento del robotaxi nelle situazioni sorprendenti. Una simulazione più ampia con utenti non esperti ha prodotto risultati simili. Julie Shah, docente del MIT e coautrice senior dello studio, ha affermato che le spiegazioni possono aiutare le persone a costruire un modello mentale più accurato del sistema.

In concreto, il vantaggio immediato non consiste nel fatto che un’auto senza conducente diventi improvvisamente priva di errori. Si tratta di fornire informazioni migliori alle persone che devono supervisionare il veicolo e agli ingegneri, che possono utilizzare le spiegazioni in tempo reale per risolvere i problemi dei suoi sistemi di intelligenza artificiale. Il lavoro resta nella fase dei test: le prove riportate provengono da un robotaxi su pista privata e da una simulazione, mentre benefici più significativi in termini di sicurezza e trasparenza sono descritti come possibilità per il lungo periodo.