Molta gent fa servir els xatbots com si fossin un dietari: hi escriuen el que pensen, també quan són pensaments foscos. Un cas del comtat de Lee, a Florida, ha mostrat que aquestes converses no són un espai tancat, perquè l'empresa que les allotja les vigila.
Segons l'informe de detenció que recull la premsa local, una dona de 30 anys va escriure a Claude el 26 de setembre que «obriria foc» contra la comissaria del xèrif, i un missatge posterior diria que s'havia comprat una arma. El sistema automàtic d'Anthropic va marcar el contingut, un equip de revisió humana el va considerar greu i el va comunicar a les forces de l'ordre. La dona va explicar als agents que feia servir Claude com a diari. Se l'acusa d'amenaça escrita de violència, un delicte greu segons la llei de Florida. Tom's Hardware afegeix que és almenys el tercer cop des de l'agost que una conversa d'aquesta mena arriba a la policia.
El cas interessa perquè toca una tensió de fons: la IA conversacional s'usa per desfogar-se, però el proveïdor pot veure el que s'hi diu. La política d'Anthropic, segons la cobertura del cas, permet comunicar dades en una emergència quan creu raonablement que hi ha un risc de mort o de lesions greus, sense necessitat d'una ordre judicial.
Cal tenir present que la informació prové de l'informe policial i de la premsa, no d'un comunicat d'Anthropic, i que l'acusació encara no s'ha jutjat. Tampoc no se sap amb quina freqüència la revisió acaba en una denúncia, més enllà dels pocs casos que han arribat als mitjans.