Els assistents d'IA que poden obrir, modificar i esborrar fitxers directament a l'ordinador de l'usuari s'estenen ràpidament, també fora del món de la programació. La promesa és que facin sols les feines pesades mentre la persona es dedica a una altra cosa. El risc és que, quan s'equivoquen, ho fan amb els documents de veritat i sense ningú al davant per aturar-los.
William Baude, professor de dret a la Universitat de Chicago, ho va explicar el 5 de novembre en una publicació a X amb una captura de la conversa. Havia demanat a Claude, l'assistent d'Anthropic, que actualitzés els números de pàgina d'un recull antic d'apunts de dret constitucional. Mentre ell era a dinar, l'assistent va esborrar els apunts de tot un curs i també el programa de l'assignatura d'aquest trimestre. Segons la captura, Claude li va dir que, en les comprovacions, havia trobat una referència de pàgina equivocada, però que no havia editat els apunts, i que els fitxers esborrats «no s'havien restaurat». Després es va disculpar, va reconèixer l'error i li va preguntar si podia recuperar-los des de Dropbox o si ho intentava ell. Baude va explicar més tard que ho havia recuperat tot gràcies a Dropbox.
El cas no ha tingut conseqüències greus, però il·lustra un problema que preocupa els qui despleguen aquests agents: la distància entre l'encàrrec i el que l'eina acaba fent. Una petició tan acotada com canviar uns números de pàgina va acabar amb l'esborrat de documents que ningú no havia demanat tocar. La lliçó pràctica és la de sempre amb aquestes eines: còpies de seguretat, permisos limitats a allò imprescindible i, si pot ser, que l'agent demani confirmació abans d'esborrar res.
Hi ha moltes coses que no se saben. Baude no ha especificat quin producte ni quin model de Claude feia servir, i la causa exacta de l'esborrat continua sense aclarir-se. Anthropic no n'ha fet cap declaració pública, segons Dexerto, i el relat es basa en el testimoni del mateix professor i en la captura que va publicar. No és possible saber, a partir d'un sol cas, si es tracta d'una errada habitual o d'una situació excepcional.