Desenes de consultoris i hospitals del sistema sanitari públic britànic (NHS) han adoptat en els últims dos anys eines d'IA que escolten i transcriuen automàticament les consultes mèdiques, per estalviar temps als metges en la redacció d'informes: almenys 27 plataformes diferents de "IA escriba" ja funcionen a consultoris de metges de capçalera i hospitals de tot el Regne Unit.
Healthwatch England, l'organisme independent de defensa dels pacients del NHS, ha alertat el 31 d'agost que aquestes eines es confonen sovint de nom de fàrmac o de diagnòstic. En un cas, la transcripció d'una IA va atribuir a una pacient "desmielinització", un dany nerviós greu que pot derivar en esclerosi múltiple, quan en realitat el metge havia dit que no en tenia; l'error va deixar la pacient molt afectada fins que ella mateixa el va detectar i l'hospital el va corregir. En un altre cas, l'eina va confondre el medicament prescrit amb un altre de nom similar; en un tercer, una carta-resum generada per IA va ometre que calia demanar una recepta de repetició per a la migranya, cosa que hauria pogut deixar la pacient sense la medicació.
Healthwatch subratlla que sovint són els mateixos pacients, no el personal sanitari, qui detecta els errors en revisar els seus informes, i que l'Agència de Medicaments i Productes Sanitaris britànica (MHRA) no classifica aquestes IA com a producte sanitari, cosa que les deixa fora del règim de proves de seguretat i eficàcia que sí que s'exigeix a un dispositiu mèdic abans de comercialitzar-se.
L'informe recull testimonis de pacients i professionals, però no quantifica quants dels milions de consultes que transcriu cada any el NHS contenen errors d'aquest tipus, ni distingeix si el problema és més freqüent en unes plataformes que en unes altres. Tampoc queda clar si el buit regulador que denuncia Healthwatch es tancarà aviat: el MHRA encara no s'ha pronunciat sobre si reclassificarà aquestes eines.