Us poso en situació. Maria té 78 anys i està ingressada per una fractura de maluc. Una infermera entra a la seva habitació i percep que alguna cosa no encaixa. Maria no ha empitjorat de manera evident, però avui necessita més ajuda per incorporar-se, gairebé no ha esmorzat, tus quan beu i està més apagada. Cap canvi aïllat no sembla especialment cridaner; plegats, poden ser el primer senyal d'un deteriorament clínic o funcional. En aquell moment, el sistema informàtic mostra una alerta de risc. La infermera hauria de confiar-hi?
La resposta no depèn només del fet que l'algoritme tingui una bona precisió. Com a la vida, en salut la confiança és necessària, però no ve instal·lada amb el programa. Una eina d'intel·ligència artificial se l'ha de guanyar: ha d'abordar un problema clínic rellevant, utilitzar dades adequades, reconèixer els seus límits i ajudar a actuar millor en condicions reals. Els qui cuidem l'hem de poder comprendre i qüestionar, i hem de poder comunicar quan falla.
La tecnologia pot ser una solució, és clar. La pregunta és per a quin problema. Predir un deteriorament serveix de poc si la informació arriba tard, si ningú no sap quina resposta cal activar o si assenyala una situació sobre la qual no podem intervenir. Abans d'entrenar un model cal tenir clara la decisió que volem afavorir, en quin moment, per a quins pacients i què hauria de passar després de l'alerta. La utilitat clínica es decideix en aquest punt, abans de triar l'algoritme. Per això, els professionals implicats hi han de participar des del principi.
Les dades de salut tampoc no són un reflex perfecte de la persona. Es generen durant l'assistència, sota pressió i mitjançant sistemes pensats per a finalitats diferents. L'absència d'un registre pot significar que un problema no existia, que no es va valorar o que no hi va haver temps per documentar-lo. Confondre aquestes situacions pot fer que el model aprengui una realitat falsa.
Per a les infermeres, aquesta qüestió és decisiva. El deteriorament es pot manifestar mitjançant canvis en la funcionalitat, la ingesta, la mobilitat, la pell, la deglució, la conducta o la necessitat d'ajuda. Aquests canvis apareixen en combinacions diferents, i les infermeres n'observem l'evolució. Tanmateix, aquesta informació perd valor si es registra de manera fragmentada o queda fora de les dades amb què aprèn l'algoritme. Un sistema d'IA pot ser tècnicament sofisticat i, alhora, miop pel que fa a les cures.
A NursIA ho comprovem quan estudiem els processos que poden desembocar en un fracàs en el rescat: apareix un deteriorament, hi ha una oportunitat d'actuar i la resposta no arriba o és insuficient. Abans de preguntar-nos quin model pot reconèixer aquestes oportunitats perdudes, hem de reconstruir què va passar i en quin ordre. Quan va canviar el pacient? Quan es va valorar? Quina resposta es va produir? Què significa un trasllat o una dada absent? Respondre-hi exigeix coneixement clínic, metodològic i tecnològic. La qualitat de la dada no es redueix a la neteja del conjunt de dades (dataset); determina quina realitat aprendrà l'algoritme.
Tampoc no n'hi ha prou amb resumir el rendiment en una sola xifra. Una eina fiable ha d'identificar les persones en risc sense fatigar els equips amb falses alarmes, oferir estimacions coherents amb el que passa després i mantenir el rendiment fora del centre on es va desenvolupar. També cal comprovar com respon en pacients grans, fràgils o amb perfils menys representats. Fer visible la incertesa permet utilitzar-la amb prudència i dipositar-hi una confiança proporcionada.
Després arriba la prova més difícil: incorporar-la a la feina quotidiana. Importa quan apareix una alerta, qui la rep, quina acció facilita i com es registra la resposta. La IA més precisa pot empitjorar les cures si afegeix pantalles, duplica tasques o interromp contínuament el flux de treball. A més del rendiment estadístic, hem d'avaluar la seguretat del pacient, la càrrega de treball, l'acceptabilitat i els efectes imprevistos. I la vigilància ha de continuar després de la implantació, perquè canvien els pacients, els equips, els registres i les maneres de treballar.
La supervisió humana tampoc no consisteix a situar un professional al final del circuit. La infermera ha de saber quina informació ha tingut en compte el sistema, quin canvi ha motivat l'alerta i quins aspectes rellevants han quedat fora. Ha de conservar la capacitat de discrepar, intensificar la vigilància o descartar una recomanació, i disposar d'una via clara per notificar errors. Si cada encert s'atribueix a l'algoritme i cada fallada al professional que el supervisa, no hi ha una governança responsable, sinó una transferència injusta del risc.
Qui ha de decidir, doncs, quan una IA mereix entrar en la pràctica? La resposta no pot quedar en mans d'una sola disciplina, del proveïdor o dels gestors. Les infermeres han de participar des de la formulació de la pregunta, perquè coneixen les cures, els seus ritmes i les conseqüències d'una alerta. La ciència de dades, l'enginyeria, la bioestadística, la informàtica sanitària, la gestió i l'ètica aporten capacitats complementàries. Els pacients i els cuidadors han d'intervenir quan l'eina afecta decisions, prioritats o càrregues que els concerneixen. I l'organització sanitària n'ha d'autoritzar l'ús, definir quina resposta s'ha d'activar, vigilar-ne el funcionament i assumir la responsabilitat de la implantació.
Aquesta és també la raó de ser de xarxes com NursIA: crear un espai de treball comú abans que la tecnologia arribi a l'habitació. La col·laboració interdisciplinària comença quan es decideix què val la pena desenvolupar, amb quines dades, amb quins límits i quin aspecte de les cures i de l'atenció sanitària es vol millorar.
Després d'aquesta reflexió, tornem a Maria. L'alerta no hauria de substituir el judici de la infermera ni demanar-li una obediència cega. L'hauria d'ajudar a preveure un canvi rellevant i a decidir millor què cal fer. Només mereix entrar a l'habitació una IA que ofereixi informació útil en el moment oportú, faci visibles els seus límits i accepti ser qüestionada. La confiança clínica no es programa: es construeix, es comprova i es comparteix.