Grok, el chatbot de xAI, arrossega mesos de polèmica per generar imatges sexuals no consentides de persones reals; una investigació de Reuters ja havia documentat el febrer passat que ho continuava fent fins i tot quan les persones usuàries advertien explícitament que els subjectes no hi consentien.
Jess Asato, diputada laborista al Parlament britànic, va presentar el juny passat una demanda al High Court de Londres contra xAI, ampliada aquest juliol, per "ús indegut d'informació privada" i incompliment de la llei britànica de protecció de dades. Asato denuncia que, després de criticar públicament Elon Musk i Grok, usuaris de la plataforma van generar imatges i vídeos falsos seus, inclòs un en què apareix "cloroformada i preparada per a una agressió sexual". La demanda no es limita a responsabilitzar les persones que van crear els continguts, sinó que argumenta que el disseny i l'entrenament del mateix Grok van permetre generar-los, i reclama una ordre judicial que obligui xAI a implementar "mesures tècniques efectives i permanents" perquè el chatbot no pugui tornar a crear imatges manipulades seves.
La notícia és rellevant perquè es tracta d'un dels primers casos que intenta traslladar la responsabilitat legal des de qui fa un mal ús d'una eina d'IA cap a l'empresa que la va dissenyar i entrenar, un precedent que, si prospera, podria obligar els desenvolupadors de chatbots a respondre directament pels continguts danyosos que els seus sistemes són capaços de generar; l'Oficina del Comissionat d'Informació i l'Ofcom britànics investiguen en paral·lel la plataforma.
El cas encara està en tramitació al tribunal i no hi ha data prevista de sentència; xAI no ha fet cap declaració pública recollida per la premsa sobre la demanda ni sobre les mesures tècniques que hi podria oposar.