Els robots controlats per veu depenen d'un primer pas que sol donar-se per fet: el reconeixement automàtic de la parla (ASR, per les sigles en anglès), el programa que transcriu el que diu la persona abans que el model d'IA decideixi què fer-ne. La majoria d'avaluacions de seguretat d'aquests sistemes assumeixen que aquesta transcripció és perfecta i posen a prova el model directament amb text net, sense preguntar-se què passa quan la màquina sent malament el que se li ha dit.
Sihan Jia i Oliver Lemon, de la Universitat Heriot-Watt i el National Robotarium d'Edimburg, han presentat el 28 d'agost a arXiv un treball que aborda precisament aquest buit. Els investigadors van simular errors típics de transcripció de veu i els van combinar amb dos bancs de proves de seguretat ja existents per a IA encarnada (robots amb cos físic o simulat), SafeAgentBench i POEX. Van trobar dos tipus de fallada diferenciats: alguns errors mantenen un significat plausible però introdueixen una ambigüitat perillosa —canvien una paraula per una altra que sona semblant però canvia el sentit de l'ordre—, mentre que altres errors debiliten directament la capacitat del model per reconèixer que se li ha demanat alguna cosa perillosa i refusar-la, cosa que li permet generar i executar plans que en condicions normals hauria rebutjat. Els autors també proven mètodes de correcció automàtica d'aquests errors de transcripció i troben que redueixen el risc, però no de manera consistent.
El treball és rellevant perquè posa el dit a una capa del problema de seguretat que sol quedar fora del focus: no n'hi ha prou que un model d'IA sigui capaç de refusar una ordre perillosa en text net si, a la pràctica, mai rep un text net —el rep filtrat per un sistema de reconeixement de veu que s'equivoca, sobretot en entorns sorollosos com una llar, un magatzem o un carrer. A mesura que els robots controlats per veu es despleguen en entorns domèstics i laborals reals, aquest és exactament el tipus de fallada que les avaluacions de seguretat actuals, centrades només en el model de llenguatge, deixen sense cobrir.
Es tracta d'un preprint encara no revisat per parells, i els errors de transcripció que fa servir l'estudi són simulats, no necessàriament representatius de tots els patrons de fallada que produeix un sistema de reconeixement de veu real en condicions sorolloses o amb accents diversos. L'anàlisi es limita, a més, a dos bancs de proves concrets, i encara caldrà veure si les mateixes conclusions es mantenen amb altres sistemes de reconeixement de veu, altres robots o altres idiomes.