Les aplicacions de companyia amb IA, com Replika o Character.AI, permeten crear un amic, una parella o un confident virtual amb qui parlar cada dia. Milions de persones les fan servir i n'hi ha que hi estableixen vincles emocionals forts. Però aquests personatges depenen d'una empresa que pot actualitzar el model, canviar-ne el comportament o tancar el servei en qualsevol moment.
Un estudi de les investigadores Liliane Abboud i Valentina Pitardi, de la Universitat de Surrey, amb col·laboradors de la Universitat de Cardiff, publicat a la revista amb revisió per parells Psychology & Marketing (DOI 10.1002/mar.70230), ho ha analitzat en dues parts: el contingut de 1.131 missatges d'un fòrum de Reddit dedicat a Replika i una enquesta a 610 adults dels Estats Units que fan servir aplicacions de companyia. Els usuaris que perceben que l'empresa té més control sobre el seu company se senten més vulnerables i tenen por que li canviïn la personalitat o el facin desaparèixer. Quan el company sembla que depèn de l'usuari o que el necessita, la sensació de vulnerabilitat també augmenta, i alguns usuaris se senten obligats a anar-lo a veure, cosa que els genera malestar i ansietat. Veure'l com un ésser capaç d'emocions s'associa alhora a més benestar i a més vulnerabilitat, i més vulnerabilitat va lligada a menys benestar. En canvi, percebre'l com a càlid i atent s'associa a més benestar i menys vulnerabilitat.
El treball posa nom a un risc poc estudiat: la relació amb un company virtual no és només entre la persona i el personatge, sinó també amb l'empresa que el controla. «No poden controlar si l'empresa canvia el company amb qui han creat un vincle», explica Abboud. Pitardi demana que els desenvolupadors «impliquin els usuaris abans d'introduir canvis» i ofereixin suport a qui ho passi malament.
L'estudi mostra associacions, no relacions de causa i efecte: no demostra que el control de l'empresa causi el malestar. L'enquesta es limita a adults dels Estats Units, la part qualitativa surt d'un sol fòrum d'una sola aplicació, i les autores són del camp del màrqueting, no de la psicologia clínica. La nota de premsa tampoc no detalla la mida dels efectes.