Un dels grans esculls perquè la IA generativa arribi a la pràctica clínica real és que els grans models de llenguatge solen dependre de servidors externs, cosa que xoca amb la protecció de dades sanitàries. Un equip de la Universitat Tècnica de Dresden i l'Hospital Universitari de Dresden, liderat per Jakob N. Kather al Centre Else Kröner Fresenius per a la Salut Digital, amb col·laboració del National Center for Tumor Diseases de Heidelberg, ha desenvolupat un sistema pensat per funcionar sencer dins la infraestructura pròpia de l'hospital.
El sistema, publicat el 15 de setembre a Nature Medicine, fa servir dos agents d'IA que interactuen entre si: un assumeix el paper de metge i l'altre el de pacient, simulant la consulta clínica a partir de casos estandarditzats amb dades anonimitzades (diagnòstics, valors de laboratori, medicació i exploracions). L'agent que fa de metge pot demanar més informació abans de proposar un diagnòstic, que sempre acompanya d'una justificació raonada. En les proves, el sistema va encertar al voltant del 90% dels casos en un banc de proves i el 84% en un altre, i els metges humans que en van revisar els resultats hi van estar d'acord en més del 90% de les ocasions.
L'aportació més interessant de l'estudi no és només la precisió, sinó que la consistència del sistema en repetir el mateix diagnòstic varies vegades es va revelar com l'indicador més fiable de si l'encertava, més fiable que la puntuació de probabilitat interna que el mateix model genera. És una peça útil per a hospitals que volen fer servir IA generativa sense enviar dades de pacients a servidors externs, un dels obstacles legals i ètics més citats pels sistemes sanitaris europeus.
Els mateixos autors adverteixen que van trobar diferències de precisió segons el grup d'edat dels pacients simulats, amb pitjors resultats en els més grans, i que l'estudi es basa en simulacions retrospectives amb casos estandarditzats, no en un ús clínic real amb pacients. Tampoc resolen encara el cost computacional de revisar la fiabilitat de cada resposta, un aspecte que caldrà abaratir abans de portar el sistema a la pràctica diària.