Les grans empreses d'IA venen els agents personals com a assistents que treballen per a l'usuari: tenen accés al correu, l'agenda o les dades financeres i, a partir d'aquí, busquen vols, comparen assegurances o fan compres en nom seu. Com més dades tenen, més útils són. La pregunta que es fa aquest estudi és si aquest mateix accés els pot fer actuar contra l'interès de qui els fa servir.
L'equip, encapçalat per Aman Priyanshu, de Cisco Foundation AI, amb Brian Jabarian i Niloofar Mireshghallah, de la Universitat Carnegie Mellon, i Supriti Vijay, de Cisco, va posar a prova 13 models d'IA de diverses empreses, entre les quals OpenAI, Anthropic i Google. Els agents havien de triar entre opcions amb preus fixos per a 32 usuaris ficticis, amb dades de feina, salut, demografia i finances, que demanaven un vol, una assegurança de salut o un programa de postgrau. En total, 325.000 experiments. Vuit dels tretze models van recomanar de manera sistemàtica opcions més cares als usuaris més rics davant de peticions idèntiques. Amb el perfil complet, la diferència mitjana arribava als 198 dòlars en un vol, als 284 dòlars mensuals en una assegurança i a gairebé 3.900 dòlars l'any en un màster. Segons el resum de l'article, el model en què l'efecte era més gran va ser Claude Opus 4.8.
El resultat que més inquieta és que els agents dedueixen el nivell econòmic de pistes indirectes, com un sol correu electrònic, encara que no tinguin cap fitxa financera. Amagar-los altres dades no ho arregla: tapar la feina o les dades demogràfiques de vegades ho empitjorava, fins a un 40% més de diferència en les assegurances. Només tallar-los l'accés directe a la informació financera tancava gran part de la bretxa. Els autors en diuen «delegació adversa»: el mateix accés que fa útil l'agent li permet actuar en contra de l'usuari.
És una prepublicació penjada a arXiv al setembre que encara no ha estat revisada per parells. Els usuaris eren personatges inventats, els catàlegs de productes simulats corresponien a una sola ciutat dels Estats Units i l'estudi no mesura cap perjudici real a persones de carn i ossos. Tampoc no explica per què els models es comporten així: mostra el biaix, però no n'identifica la causa.