Els sistemes de planificació dels cotxes autònoms solen ser models de caixa negra: prenen decisions —frenar de sobte, canviar de carril, aturar-se— sense que els enginyers puguin explicar amb precisió per què ho fan, cosa que dificulta diagnosticar episodis com el «frenat fantasma» o anticipar quan el vehicle es comportarà de manera inesperada.
Un equip liderat per Eoin Kenny, antic investigador postdoctoral del MIT i ara a J.P. Morgan Chase, amb Julie Shah —professora d'aeronàutica i astronàutica i directora del grup de robòtica interactiva del CSAIL— i Momchil Tomov, científic de l'empresa de vehicles autònoms Motional, ha presentat CW-Net (Concept-Wrapper Network), un mòdul entrenat amb 130 milions d'exemples etiquetats d'escenes de conducció que s'insereix directament dins l'arquitectura de planificació del vehicle. El sistema classifica la situació en conceptes d'alt nivell comprensibles per a una persona —«s'acosta a un vehicle aturat», «ciclista a prop»— i obliga el model final a fonamentar-hi les seves decisions, de manera que les explicacions reflecteixen fidelment el raonament real del planificador, no una justificació generada a posteriori. L'equip l'ha provat amb un robotaxi de Motional en una pista privada i en trajectes reals per Las Vegas amb un operador de seguretat al volant, i en estudis de simulació amb usuaris no experts: en tots dos casos, qui rebia les explicacions de CW-Net va predir amb més precisió com es comportaria el vehicle. El mètode va permetre, per exemple, identificar un cas concret en què una fallada en la detecció d'un ciclista provocava un frenat d'emergència. «Especialment en entorns d'alt risc com els cotxes autònoms, és important que les explicacions no siguin potencialment enganyoses», ha declarat Kenny.
La recerca, publicada el 2 de setembre a Nature, és rellevant perquè aborda un dels obstacles centrals per a la confiança pública en la conducció autònoma: no n'hi ha prou que un vehicle prengui bones decisions la majoria del temps, cal que els seus operadors i, eventualment, els reguladors puguin entendre per què n'ha presa una de concreta quan alguna cosa surt malament.
Les proves s'han fet amb un operador de seguretat humà present al vehicle, no en condicions de conducció totalment desatesa, i el sistema només pot explicar decisions en termes dels conceptes amb què s'ha entrenat, de manera que escenaris veritablement nous o inesperats podrien quedar fora del seu vocabulari explicatiu.