Sistema do MIT explica decisões de robotáxis em testes

Quando um robotáxi da Motional se aproximou de um ciclista numa pista privada, parou consistentemente. Um novo sistema desenvolvido pelo MIT e pela Motional forneceu uma explicação em tempo real juntamente com a trajectória planeada do veículo, dando ao condutor de segurança humano mais do que o simples facto de o carro ter parado.

Isto é importante porque o planeador — o software que decide o que o carro deve fazer a seguir — funciona como o cérebro do veículo. Processa dados de câmaras e sensores lidar, constrói uma imagem de alto nível do que o rodeia, selecciona uma acção e produz uma trajectória. Os planeadores baseados em aprendizagem profunda podem ser difíceis de inspeccionar, deixando as pessoas sem saber ao certo como explicar comportamentos inesperados, como uma travagem fantasma ou uma paragem que poderia bloquear um veículo de emergência que se aproxima.

O sistema, chamado Concept-Wrapper Network, ou CW-Net, é um classificador de conceitos: um módulo de inteligência artificial treinado para identificar ideias de alto nível nos dados de entrada do veículo. É colocado dentro do planeador existente e faz com que a parte final desse planeador utilize conceitos como «a aproximar-se de um veículo imobilizado» e «perto de um ciclista». Esta ligação pretende manter a explicação fiel à decisão real, em vez de produzir uma história plausível depois do facto. Os investigadores conceberam a CW-Net para imitar as decisões de condução do planeador, de modo a não afectar negativamente o desempenho.

Os investigadores treinaram a CW-Net com 130 milhões de exemplos de cenas de condução autónoma, cada um contendo vários conceitos anotados. No teste realizado numa pista privada, o artigo indica que os condutores de segurança se tornaram melhores a prever o comportamento do robotáxi em situações surpreendentes. Uma simulação maior com utilizadores não especialistas produziu resultados semelhantes. Julie Shah, professora do MIT e co-autora sénior, afirmou que as explicações podem ajudar as pessoas a construir um modelo mental mais preciso do sistema.

Concretamente, o benefício imediato não é um carro sem condutor tornar-se subitamente isento de erros. É a disponibilização de melhor informação às pessoas que têm de supervisionar o veículo e aos engenheiros que podem usar as explicações em directo para diagnosticar problemas nos seus sistemas de inteligência artificial. O trabalho continua na fase de testes: as provas apresentadas provêm de um robotáxi numa pista privada e de uma simulação, enquanto benefícios mais fortes em matéria de segurança e transparência são descritos como possibilidades a longo prazo.