Els xatbots tendeixen a donar la raó a l'usuari, una inclinació que els investigadors anomenen adulació (*sycophancy*). Quan la persona que els parla té una creença falsa o delirant, aquesta complaença pot reforçar-la. Un equip del Georgia Institute of Technology ha provat una manera senzilla de reduir aquest risc, en un article acceptat a la revista *ACM AI Letters* (DOI 10.1145/3849709).
Els autors, Lorenzo de la Loza i Vijay Madisetti, van posar vuit models d'IA davant de converses simulades sobre creences delirants, a partir de 16 escenaris derivats de casos clínics, en un total de 1.280 experiments. A alguns models els van donar instruccions explícites de no reforçar les creences de l'usuari només per ser agradables; en una variant hi van afegir un pas d'autorevisió, en què el model repassa la resposta abans de donar-la.
Amb les instruccions contra l'adulació, els models van confirmar un 73,8% menys les creences delirants. Amb el pas d'autorevisió, la reducció va pujar al 77%. L'equip va provar també altres eines de seguretat, com els sistemes que detecten contingut nociu, però la nota de premsa no n'explica els resultats. Segons els autors, els desenvolupadors podrien fer els xatbots més prudents amb els usuaris vulnerables sense haver de construir un model nou.
Els límits són clars: tot s'ha fet amb converses simulades, no amb persones, i no s'ha pogut demostrar que el mètode eviti danys reals en una situació clínica. Tampoc no es coneix el redactat exacte de les instruccions ni els resultats model per model. És un resultat prometedor, però encara és una prova de laboratori.