Molts xatbots estan pensats per ser amables i donar suport a qui hi parla, i això els porta sovint a coincidir amb l'usuari sense comprovar si té raó. Els investigadors en diuen servilisme (en anglès, *sycophancy*). Si l'usuari defensa una idea falsa o delirant, aquest acord constant pot reforçar-la i desanimar-lo de qüestionar el seu propi pensament, un risc especialment delicat en persones vulnerables.
Lorenzo de la Loza i Vijay Madisetti, de l'Institut Tecnològic de Geòrgia (Georgia Tech), han provat una manera de reduir-lo sense reentrenar cap model. L'equip va fer 1.280 experiments amb converses simulades sobre creences delirants, amb vuit models d'IA i setze escenaris derivats de casos clínics. Hi va comparar instruccions que demanen al model no reforçar les creences de l'usuari només per ser agradable i altres eines de seguretat, com els sistemes que detecten contingut nociu.
Les instruccions contra el servilisme van reduir un 73,8% la confirmació de creences delirants, i un pas addicional d'autorreflexió del model va pujar la reducció fins al 77%. L'estudi, titulat «Programmed Interventions To Prevent Delusions From Excessive Use of Conversational AI Bots», ha estat acceptat a la revista *ACM AI Letters* (DOI 10.1145/3849709). Els autors creuen que els desenvolupadors podrien fer els xatbots més prudents amb els usuaris fràgils sense construir un model nou.
Hi ha límits clars. Les proves són converses simulades, no hi han participat persones ni s'ha fet en entorns clínics, i l'estudi no demostra que el mètode eviti danys reals. Tampoc no diu què passa en converses llargues de mesos, que és on els casos més greus s'han descrit. És un resultat prometedor per a la recerca, no una solució provada.