Els sistemes d'IA que ja ajuden a llegir radiografies de tòrax i altres imatges mèdiques no s'equivoquen només per manca de precisió: el problema real és saber en cada cas concret si val la pena confiar-hi o si cal que ho revisi una persona. Fins ara, la majoria de sistemes fixen un únic llindar de confiança per a totes les troballes, sense distingir-ne la gravetat ni calibrar bé el risc real d'un error acceptat per equivocació.
Un equip liderat per Xueyang Li presenta a arXiv, el 25 de setembre, CRC-Router, un mòdul que combina diversos senyals d'incertesa amb la puntuació que dona el mateix model per estimar, troballa per troballa, el risc de deixar passar un error. Amb una tècnica estadística anomenada control de risc conforme, el sistema calibra el llindar a partir d'un objectiu de risc que fixa l'usuari (per exemple, un hospital), de manera que garanteix matemàticament que no se'l superarà. Provat amb el conjunt públic de radiografies ChestX-ray14 de l'Institut Nacional de la Salut dels Estats Units, el mètode millora l'equilibri entre risc i cobertura respecte als sistemes de comparació, tant sol com integrat amb MedRAX, un agent mèdic de referència.
La contribució no és un nou algorisme de diagnòstic, sinó una peça de seguretat pensada perquè els agents d'IA mèdics es puguin desplegar amb una garantia estadística explícita de quan cal aturar-se i demanar una segona opinió humana, un requisit cada cop més present en la conversa sobre com portar aquests sistemes a la pràctica clínica real.
L'estudi és encara un treball de recerca en preprint, sense revisió per parells, i s'ha provat només amb un conjunt de dades públic i un tipus d'imatge, la radiografia de tòrax, no amb pacients reals en un hospital. Els mateixos autors el presenten com un component modular que caldria validar amb altres tipus d'imatge i sistemes abans de portar-lo a la pràctica.