Els serveis d'urgències hospitalàries són un dels escenaris on més s'ha promès que la intel·ligència artificial ajudaria: molts pacients, poc temps, decisions que no admeten error. També és, per això mateix, un dels més difícils de validar de debò: no n'hi ha prou que un sistema funcioni en una demostració, cal veure què passa quan es fa servir cada dia, setmana rere setmana, en un servei real. El protocol DECIDE-AI, dissenyat expressament per a aquesta primera fase d'avaluació clínica de la IA, existeix justament per posar-hi ordre.
Un equip encapçalat per Liron Leibovitch, Adi Ahituv i Shahar Shelly, del Rambam Health Care Campus i la facultat de medicina del Technion a Haifa, ha publicat el 19 d'agost a Nature Medicine una avaluació prospectiva de fase 1 de SHAKED, un sistema de suport a la decisió clínica construït sobre diversos models de llenguatge que ja fa mesos que funciona a les urgències d'adults i pediàtriques de l'hospital. SHAKED creua l'historial del pacient, els resultats de laboratori i els símptomes amb literatura mèdica per suggerir diagnòstics, prioritzar quins casos necessiten imatge amb més urgència i avisar quan detecta risc de deteriorament. L'assaig va seguir 1.138 pacients al llarg de quatre setmanes en dues unitats paral·leles: l'anàlisi per intenció de tractar va trobar una tendència —no estadísticament significativa— cap a un cicle de consulta 9,4 minuts més curt (p=0,077). Però la troballa central de l'estudi no és aquesta xifra, sinó una altra: la implicació clínica amb el sistema va anar baixant de manera constant setmana rere setmana.
Els mateixos autors ho remarquen: sembla que el problema no és tant la precisió de l'algorisme com la implicació sostinguda dels professionals que l'han de fer servir cada torn. És una troballa incòmoda i alhora valuosa, perquè contrasta amb el relat més optimista que el mateix hospital n'havia fet públicament —on es parlava d'ingressos escurçats en una hora, consultes a especialistes accelerades en 25 minuts i casos detectats que haurien pogut passar per alt, com una meningitis confosa amb un ictus o una carència de potassi que amenaçava la vida del pacient. Aquest estudi, revisat per parells, posa aquell relat a prova amb dades i hi afegeix el que faltava: que un sistema pot ser segur i útil sobre el paper i, tot i així, deixar de fer-se servir si no s'acompanya d'un procés perquè el personal hi confiï i l'incorpori a la rutina.
És una avaluació de fase 1 del marc DECIDE-AI —pensada per detectar problemes d'implementació abans d'assajos més grans, no per demostrar eficàcia clínica definitiva—, feta en un sol hospital i amb una tendència de millora que els mateixos autors qualifiquen de no significativa. No estableix que SHAKED millori els resultats dels pacients, només que es pot integrar sense incidents de seguretat; i el seu avís més important —que l'ús decau amb el temps— és, precisament, una crida a estudiar per què, no una resposta tancada.