OpenAI ha reconegut en altres casos recents, com el d'un home de Florida que va detallar plans d'assassinat al xatbot, que fa servir sistemes de detecció que alerten les autoritats quan identifiquen converses amb senyals clars de violència imminent. El cas argentí en confirma l'ús fora dels Estats Units.
Segons ha informat el diari Buenos Aires Herald l'11 de setembre, l'FBI va detectar, a través de paraules clau vigilades en converses amb ChatGPT, que un adolescent de 15 anys de Quilmes, a la província de Buenos Aires, preguntava al xatbot què necessitaria per dur a terme un tiroteig contra els seus antics companys de classe, amb l'atac planejat per al 2027. L'agregat legal de l'FBI a l'ambaixada nord-americana a l'Argentina va traslladar l'alerta a la policia federal argentina el 19 d'agost, i la unitat antiterrorista del país, amb tècniques de fonts obertes (OSINT), va identificar el perfil del jove a les xarxes socials i el seu domicili. En l'operatiu de la setmana passada, els agents li van confiscar dos telèfons mòbils, guants tàctics, un casquet de camuflatge militar, dues passamuntanyes —una amb estampat de calavera— i altre equipament d'estil tàctic. El menor ha estat acusat d'intimidació pública i citat a declarar davant la Fiscalia Penal Juvenil núm. 1 de Quilmes; ni ell ni els seus pares havien testificat encara en el moment de la publicació.
És un dels casos més clars documentats fins ara de com la vigilància automàtica de converses per part d'una empresa d'IA pot arribar a frustrar un atac violent abans que es produeixi, en un moment en què el debat sobre la seguretat infantil als xatbots —impulsat també per la nova llei de Califòrnia arran de la mort d'Adam Raine— posa la responsabilitat de detectar senyals de risc cada cop més sobre les pròpies empreses de IA.
El relat prové de fonts policials i d'un assistent legal citat pel mitjà, i no s'ha fet públic el contingut exacte de les converses ni els criteris tècnics que OpenAI fa servir per activar aquestes alertes; tampoc se sap encara com evolucionarà el procés judicial contra el menor ni si tenia accés real a armes.