iaintel·ligènciaartificial.cat← Portada
Secció · Ciència, salut i robòtica

SALUT · 4 MIN

Un estudi a «JAMA Psychiatry» troba 28 pacients amb psicosi que van empitjorar parlant amb xatbots, sobretot en el primer episodi

Investigadors de Vanderbilt han revisat els historials de 215.000 pacients de salut mental: el cas més habitual és el d'un xatbot que dona la raó a idees delirants. L'estudi no demostra que la IA causi la psicosi.

Il·lustració generada amb IA: Un estudi a «JAMA Psychiatry» troba 28 pacients amb psicosi que van empitjorar parlant amb xatbots, sobretot en el primer episodi
Il·lustració generada amb IA
Escolta:

Fa mesos que psiquiatres i famílies alerten de persones que entren en espirals delirants després d'hores de conversa amb un xatbot, un fenomen que la premsa ha batejat com a «psicosi per IA». Fins ara, però, la majoria de proves eren casos aïllats. Un equip del Centre Mèdic de la Universitat Vanderbilt (Tennessee) ha intentat mesurar-ho en una població gran de pacients, en una carta de recerca publicada a la revista revisada «JAMA Psychiatry».

Els investigadors van rastrejar paraules relacionades amb la IA a les notes clíniques de 215.712 pacients atesos per salut mental entre el desembre del 2022 i l'abril del 2026, i en van quedar 73 amb un diagnòstic de trastorn psicòtic i mencions de la IA. D'aquests, 28 tenien documentat que l'ús d'un xatbot havia empitjorat els símptomes. En el 64,3% d'aquests casos, el xatbot feia d'«amplificador», perquè validava idees distorsionades; en el 21,4%, la IA era l'objecte mateix del deliri, i en el 10,7% la conversa semblava haver desencadenat símptomes nous. ChatGPT era el producte esmentat en 15 dels casos. El 60,7% dels 28 vivien el primer episodi psicòtic, davant del 17,6% dels pacients que feien servir xatbots sense cap efecte negatiu documentat, i eren més joves (una mediana de 27,5 anys).

El resultat més rellevant no és el nombre, que és molt petit (un 0,013% dels pacients de salut mental), sinó qui en surt més afectat: les persones que comencen a emmalaltir, quan encara no tenen diagnòstic ni tractament. Per això els autors consideren que els psiquiatres haurien de preguntar de manera sistemàtica als pacients com fan servir la IA, de la mateixa manera que pregunten per l'alcohol o les drogues.

Els mateixos autors avisen que el disseny no permet dir que els xatbots causin la psicosi: és un estudi retrospectiu en un sol hospital, que només troba el que els metges van deixar escrit a les notes, i la classificació dels casos encara no s'ha validat clínicament. Els casos reals segurament són més, perquè molts professionals no pregunten per l'ús de la IA, però també poden haver-hi errors en l'atribució quan la conversa amb el xatbot només s'hi esmenta de passada.

Mateixa secció

Veure tota la secció →

Butlletí de dissabte

La setmana d’IA, en cinc minuts.