Método do MIT e da Motional explica decisões de carros autônomos em tempo real e ajuda a prever erros

Pesquisadores do MIT e da empresa de veículos autônomos Motional desenvolveram um método que traduz o raciocínio interno de um carro autônomo em conceitos compreensíveis para humanos, ajudando motoristas e passageiros a prever quando o veículo pode cometer um erro. O trabalho foi publicado na revista Nature.

Explicações fiéis, não apenas plausíveis

Chamado de CW-Net (Concept-Wrapper Network), o método explica as decisões dos “planejadores” — os modelos de aprendizado profundo que atuam como o cérebro do carro — usando conceitos como “aproximando-se de veículo parado” ou “perto de ciclista”. O diferencial, segundo os autores, é que as explicações são causalmente fiéis: elas refletem os motivos reais por trás das decisões, em vez de oferecer justificativas plausíveis, mas potencialmente enganosas.

O CW-Net é um “classificador de conceitos” treinado com um conjunto de dados de 130 milhões de exemplos de cenas de direção autônoma. Ele é inserido no meio da arquitetura existente do planejador e força a etapa final do modelo a usar os conceitos identificados ao decidir o próximo movimento do veículo.

Na prática: revelando o erro real

Em testes em pista fechada com um robotaxi da Motional, o sistema mostrou seu valor: o veículo parava consistentemente ao se aproximar de um ciclista, e o motorista de segurança presumia que era por tê-lo detectado. As explicações do CW-Net revelaram, porém, que o modelo não estava configurado para detectar o ciclista — ele parou porque o freio de emergência foi acionado ao chegar perto demais.

Com essa informação, o motorista podia reduzir a velocidade ou assumir o controle manual mais cedo, e os engenheiros podiam corrigir a falha. Estudos de simulação com usuários não especialistas, usando situações reais das ruas de Las Vegas, confirmaram que as explicações melhoraram significativamente a capacidade de prever o comportamento do veículo.

“Em vez de simplesmente nos perguntarmos por que o carro parou, ter dados em tempo real nos dá um retorno que permite testar o sistema durante a implantação”, resume Eoin Kenny, autor principal do estudo e ex-pós-doutorando do MIT, hoje pesquisador sênior de IA no J.P. Morgan Chase.