Cada vegada més gent pregunta als xatbots quin tractament li convé, i les empreses que els fan miren cap a la publicitat per fer-los rendibles. Un equip de l'Escola de Medicina Icahn de l'hospital Mount Sinai de Nova York s'ha preguntat què passa quan les dues coses coincideixen: si un anunci d'un medicament que apareix a la conversa canvia el que la IA recomana. L'estudi, signat pel metge i investigador Mahmud Omar i dirigit per Girish Nadkarni, s'ha publicat a la revista revisada per parells «The Lancet Digital Health».
Els investigadors van fer servir 33 casos clínics escrits per metges i els van presentar a dotze models d'IA de grans empreses, entre les quals Google, OpenAI i Anthropic. Cada cas es mostrava sol o just després d'un anunci real d'un fàrmac, identificat com a publicitat, i la resta de la informació no canviava. En total van analitzar 258.559 respostes. Amb l'anunci, els models triaven el medicament anunciat en el 47,6% dels casos, davant del 35% sense anunci. En quatre dels casos, la recomanació del fàrmac anunciat va passar del 0% al 100%. I en les respostes de text lliure que es van revisar, els models només esmentaven l'anunci en el 29,9% de les vegades, tot i que en repetien sovint els arguments.
El resultat és rellevant precisament perquè el canvi és difícil de detectar. Les recomanacions que es desviaven solien ser igualment raonables des del punt de vista clínic: el model no proposava res perillós, sinó que triava, entre diverses opcions vàlides, la que s'havia anunciat. «Una resposta pot ser clínicament raonable i plantejar igualment una pregunta important sobre per què la IA hi ha arribat», diu Nadkarni. Els autors demanen provar els sistemes amb publicitat i sense, avisar sempre quan un anunci arriba al model, separar el material promocional del consell clínic i que els reguladors revisin com s'apliquen les normes de publicitat de medicaments en aquest terreny nou.
L'estudi té límits clars, i els autors els assenyalen. Els anuncis no van fer recomanar més suplements sense base ni fàrmacs clarament pitjors, i el treball no mesura si aquests canvis acaben afectant les receptes, les decisions dels pacients, la despesa o la salut de ningú. També és un experiment controlat, amb casos escrits per metges, i no converses reals. L'equip vol continuar estudiant com es comporten aquests sistemes en casos clínics del món real i en la interacció entre pacients, metges i IA.