Darrere dels grans models d'IA hi ha una multitud de persones que els entrenen: escriuen instruccions, puntuen respostes i corregeixen errors, sovint com a autònoms i des de casa. Scale AI, una empresa nord-americana que treballa per a Meta, OpenAI, xAI, Google, Anthropic i el Govern dels Estats Units, n'organitza una bona part a través de la seva plataforma Outlier, que diu tenir més de 900.000 col·laboradors.
Aquest dimarts, l'organització austríaca de defensa de la privadesa noyb, juntament amb Intérêt à Agir, el grup de recerca DiPLab i Reversing.Works, ha presentat cinc denúncies per incompliment del Reglament general de protecció de dades (RGPD) a França, Itàlia, els Països Baixos i Àustria (dues en aquest últim país). Segons noyb, mentre els col·laboradors fan servir la plataforma, Outlier els instal·la rastrejadors de TikTok, LinkedIn, Facebook, Sprig i Datadog que envien cada pocs segons a aquestes empreses dades com l'adreça IP, identificadors únics i les pàgines visitades. A més, els obliga a fer repetidament verificacions d'identitat amb vídeo de la cara i el document d'identitat a través de l'empresa Persona. L'entitat sosté que no hi ha base legal per als rastrejadors, que el tractament de dades biomètriques és il·legal i desproporcionat, i que Scale AI no ha respost les peticions d'accés dels treballadors.
La denúncia posa el focus en una part de la indústria que rarament surt a les notícies: la feina humana que fa possible la IA. «Per què LinkedIn o Facebook han de saber en quines tasques treballes?», es pregunta l'advocada de noyb Lisa Steinfeld Leiser. L'entitat recorda que l'octubre del 2025 un atac informàtic a Persona va deixar a la vista unes 70.000 fotografies de documents d'identitat, i demana a les autoritats que investiguin el cas i imposin una multa dissuasiva.
De moment són acusacions, no infraccions demostrades. Scale AI justifica les verificacions d'identitat com una manera d'evitar fraus i comprovar les competències dels col·laboradors, i ara seran les autoritats de protecció de dades de cada país les que hauran de decidir si admeten les denúncies i si obren una investigació, un procés que sol durar mesos o anys.