Els sistemes d'IA per llegir radiografies solen funcionar com una caixa negra: donen un diagnòstic amb un percentatge de confiança, però no expliquen el raonament ni garanteixen estadísticament que l'encert es mantindrà en casos nous. Aquesta opacitat és un dels principals frens perquè els hospitals els incorporin a la pràctica diària.
Un equip de set investigadors ha presentat FRAC-MAS, un sistema per diagnosticar fractures òssies que combina un conjunt de quatre models de visió amb un mètode estadístic anomenat "predicció conforme", que acota amb garanties matemàtiques el marge d'error de cada diagnòstic. Per damunt d'aquest nucli, diversos agents d'IA independents en revisen per separat les troballes, les contrasten amb guies clíniques i en redacten un informe entenedor per al pacient. En les proves, el sistema classifica el 86,6% dels casos en un grup d'"alta confiança" que es confirma automàticament, i deriva la resta —els casos dubtosos— a un metge. En estudis amb usuaris, els informes generats han resultat més fàcils d'entendre que els d'altres sistemes competidors.
El disseny —agents que es verifiquen entre ells, garanties estadístiques explícites i informes pensats per al pacient, no només per al metge— apunta a un dels problemes reals que frenen la IA mèdica: no n'hi ha prou que un sistema encerti sovint, cal que un metge hi pugui confiar sense haver de revisar-ne cada resultat, i que sàpiga triar quins casos ha de mirar-se ell mateix.
És un preprint encara no revisat per parells, i els resultats provenen de les proves internes dels autors, no d'un assaig clínic independent en un hospital real. Tampoc se sap encara com es comportaria el sistema amb tipus de fractures poc habituals o amb imatges de qualitat més baixa que les del seu conjunt de proves.