Cada cop més persones consulten xatbots d'IA sobre símptomes, medicaments o dietes, i en reben resums de salut també als cercadors i a les xarxes socials. El problema, diuen els autors, és que aquestes converses passen dins la plataforma de l'empresa, de manera que ningú de fora pot veure què s'hi ha dit ni mesurar si hi ha hagut perjudici.
L'article, publicat avui a «Nature Health» amb el títol «The Invisible Risks of AI-Generated Health Information», té com a primer nom visible Kaicheng Yang, professor de la Universitat de Binghamton, i signen investigadors de Stanford, Texas A&M i Indiana. És un text de perspectiva: no presenta dades pròpies ni mesura el rendiment de cap xatbot. Il·lustra el risc amb el cas d'un home hospitalitzat per intoxicació amb bromur després que un xatbot li suggerís bromur de sodi com a substitut de la sal; els metges no van poder recuperar la conversa per saber què se li havia dit.
Els autors proposen que les empreses permetin als usuaris accedir a les seves converses de salut i creïn un sistema per assenyalar, denunciar i investigar els consells erronis. Demanen que les xarxes etiquetin el contingut de salut generat amb IA i que els cercadors només resumeixin informació verificada, i plantegen que els legisladors estudiïn aplicar als desenvolupadors de xatbots una responsabilitat semblant a la dels metges. Yang defensa una supervisió independent, perquè les empreses tenen pocs incentius per fer-la: «Si hi ha un error, simplement no hi ha manera que la gent ho sàpiga».
Cal llegir-ho com un avís raonat, no com una mesura de la magnitud del problema. L'únic cas concret és un exemple aïllat i el text no estima quants usuaris reben consells perjudicials ni amb quina freqüència. La seva aportació és assenyalar un buit de dades: sense registres accessibles, ningú no pot calcular el risc real.