Cada vegada més joves fan servir assistents d'IA per parlar de com se senten. Un preprint publicat a arXiv, «Right Words, Wrong Moment», ha analitzat com ho fa ChatGPT quan l'usuari està angoixat. L'equip, encapçalat per Marx Wang, Ella Zhang i Cameron Tan amb onze col·laboradors més, va treballar amb converses i enquestes de 158 joves de 18 a 25 anys.
En total van examinar 19.930 converses de ChatGPT. En van triar cinc de representatives d'usuaris en situació d'angoixa, i deu clínics les van revisar i hi van fer comentaris. Segons els autors, els usuaris més angoixats mostraven un compromís emocional més gran amb ChatGPT i més canvis de comportament que la resta de participants.
Els clínics van valorar l'accessibilitat de l'eina i van considerar acceptable bona part del llenguatge, però hi van assenyalar set errors de procés. El principal, saltar de pressa a les solucions quan la persona vivia una angoixa aguda; també van veure respostes massa dramàtiques. A partir d'aquí els autors proposen una pauta en tres fases: primer, garantir la seguretat; després, rebaixar la intensitat emocional perquè la persona es pugui autorregular; i, finalment, explorar el problema sense donar per bones interpretacions que no ho són.
Cal llegir-ho com el que és: un preprint que encara no ha passat per una revisió per experts, amb una mostra petita i només cinc converses avaluades pels clínics. Descriu problemes de procés i no mesura si les respostes fan mal o bé de debò a llarg termini, ni permet extrapolar-ho a tots els usuaris. Si algú passa per un moment difícil, és més segur parlar-ne amb una persona o un servei d'ajuda.