Grok, el xatbot d'IA de xAI, arrossega des de fa mesos denúncies sobre la seva capacitat per generar contingut sexual explícit sense prou salvaguardes, inclosa una demanda col·lectiva federal iniciada per famílies d'adolescents de Tennessee que acusa la companyia d'Elon Musk de no haver protegit prou els usuaris menors d'edat.
El Washington Post ha revelat, en un reportatge del 15 d'agost recollit després per altres mitjans com IBTimes UK, que una dona identificada als documents judicials com a «Jane Doe 4» s'ha sumat a aquesta demanda. Segons la denúncia, el seu padrastre hauria fet servir Grok per convertir una fotografia seva de quan tenia uns 11 anys en més de 7.000 imatges d'abús sexual infantil, que després hauria intercanviat per internet. La dona diu que ho va descobrir quan la policia va escorcollar el domicili familiar de Wyoming; dos dies més tard, el padrastre va aparèixer mort dins el seu cotxe, en un fet que les autoritats atribueixen a un suïcidi. La demanda sosté que xAI no va implementar salvaguardes bàsiques al producte i que l'informe que la companyia va enviar al Centre Nacional per a Nens Desapareguts i Explotats dels Estats Units va ometre dades rellevants, com les adreces IP associades al compte del padrastre.
El cas és rellevant perquè posa un nom i uns fets concrets darrere d'una crítica que fins ara s'havia mantingut sobretot en termes generals: que les eines de generació d'imatges amb IA es poden fer servir per crear material d'abús sexual infantil a partir de fotografies reals de víctimes, i que la resposta de les empreses als informes obligatoris davant les autoritats pot quedar-se curta. La denúncia també qüestiona directament declaracions públiques d'Elon Musk, que havia dit no tenir constància de «cap imatge de menors nus generada per Grok».
Es tracta d'al·legacions recollides en una demanda judicial encara en curs, que un tribunal no ha jutjat ni resolt: els fets exposats són la versió de la part demandant, no fets provats. Ni xAI ni Elon Musk han fet declaracions públiques específiques sobre aquest cas concret en el moment de publicar-se el reportatge original, i la informació disponible prové del relat judicial recollit pel Washington Post i reproduït per altres mitjans, no d'una verificació independent d'aquest diari.