Des de fa dècades, els hospitals revisen els seus errors clínics més greus en sessions de morbimortalitat (M&M): reunions estructurades i sense atribució de culpa individual, pensades per entendre com s'ha produït una fallada i evitar que es repeteixi. Quan l'error o el quasi-error l'ha comès —o hi ha contribuït— una eina d'intel·ligència artificial, en canvi, no existeix cap procés equivalent: els sistemes de vigilància actuals es basen en el seguiment agregat del rendiment del model o en els informes clàssics de seguretat del pacient, cap dels quals explica com apareix realment l'error en la interacció entre la IA, el personal clínic, el flux de treball i els controls institucionals.
Un equip format per Paulius Mui, Dean F. Sittig, Steve Labkoff i l'epidemiòleg Sanjay Basu ha publicat el 31 d'agost, a arXiv, el treball «AI Morbidity and Mortality: A Framework for Clinical AI Failure Review», en què proposen l'AI M&M, un marc estructurat i «sense culpa» per revisar cas per cas les fallades de la IA clínica. El mètode organitza cada incident en quatre dimensions —el desencadenant, el mecanisme, el recorregut clínic i l'acció correctora— que distingeixen la condició que exposa la vulnerabilitat, el procés que genera el risc, les seves conseqüències per al pacient i les mesures que se n'han de derivar. Els autors l'han posat a prova amb cinc casos reals de medicació i suport a la decisió clínica en consultes externes, i dos revisors independents hi van coincidir en les vint classificacions possibles.
La notícia és rellevant perquè dona als hospitals una metodologia concreta per convertir les fallades individuals de la IA en aprenentatge institucional, en un moment en què l'ús d'eines de suport a la decisió clínica amb intel·ligència artificial creix més de pressa que els mecanismes per fiscalitzar-ne els errors; el marc no vol substituir la regulació ni la vigilància agregada dels models, sinó complementar-les amb l'anàlisi detallada de casos concrets.
Cal tenir presents els límits del treball: es tracta d'un article encara no revisat per parells i posat a prova amb només cinc casos, de manera que calen més proves —amb més institucions i tipus d'eines d'IA— abans de saber si l'acord entre revisors es manté a més escala i si els hospitals l'adopten realment com a pràctica habitual.