Cada cop més persones fan servir xatbots i altres eines d'intel·ligència artificial per buscar informació sobre la seva salut, interpretar símptomes o decidir si han d'anar al metge. Un article publicat el 16 de setembre a la revista Nature Human Behaviour, signat per Rebecca K. Ivic (Universitat d'Alabama), Scott C. Ratzan (CUNY Graduate School of Public Health and Health Policy) i Ruth M. Parker (Universitat Emory), alerta que aquesta tecnologia s'està desplegant en contextos sanitaris més de pressa que no pas es genera l'evidència necessària per saber si realment ajuda.
Els autors introdueixen el concepte de «IA alfabetitzada en salut» (health-literate AI): sistemes dissenyats des de l'inici perquè s'ajustin a les capacitats i necessitats reals de qui els fa servir, en lloc de traslladar tota la responsabilitat de desxifrar-los a la persona usuària. Proposen un marc de quatre principis: comprensió (que l'usuari pugui interpretar el que li diu la IA en el seu context), agència (que la informació li permeti prendre una decisió informada), rendició de comptes (que l'evidència, la incertesa i els límits de la resposta quedin explícits) i proporcionalitat (que el to i el detall de la resposta s'ajustin a la gravetat de la situació). «Estem desplegant IA en contextos de salut més de pressa del que estem construint l'evidència necessària per saber si realment ajuda les persones a entendre, decidir i actuar», resumeix Ivic.
L'article és rellevant perquè trasllada el debat sobre la IA a la sanitat des de la pregunta habitual —si el sistema encerta o s'equivoca— cap a una de més àmplia: si el disseny mateix de l'eina permet que una persona amb coneixements de salut desiguals en pugui treure profit real, sense que la càrrega de navegar-hi recaigui només sobre ella. Els autors insisteixen que el disseny dels sistemes, i no l'usuari, ha de fer-se càrrec d'aquesta comprensió.
Es tracta d'un article de perspectiva conceptual, no d'un estudi empíric que mesuri com de bé funciona aquest marc en un sistema real: els quatre principis es proposen com a orientació per a qui dissenya aquestes eines, però encara no s'han posat a prova en cap desplegament sanitari concret que en pugui confirmar l'eficàcia.