Les imatges íntimes falses fetes amb IA sense el consentiment de la persona que hi surt s'han multiplicat amb els generadors d'imatges. Investigadors del Centre de Responsabilitat Tecnològica de la Universitat Brown, als Estats Units, han estudiat per què costa tant aturar-les. El treball, encapçalat per la doctoranda Michelle Ding amb la professora Harini Suresh, s'ha publicat a les actes de la sisena conferència de l'ACM sobre equitat i accés en algorismes, mecanismes i optimització (EAAMO), revisades per parells, i es va presentar el 7 de novembre (DOI 10.1145/3846167.3848604).
L'equip ha classificat tot el que fa possible aquestes imatges en 11 categories tecnològiques, agrupades en cinc funcions: crear les imatges, distribuir-les, fer que es trobin i es multipliquin, donar-los infraestructura i suport, i fer-ne negoci. Després ha revisat 64 lleis estatals i federals dels Estats Units sobre la qüestió i ha trobat que més del 92% apunten als individus que creen o difonen les imatges, i que gairebé cap no s'ocupa de la resta de l'engranatge: les aplicacions, els cercadors, els serveis d'allotjament o els sistemes de pagament. Ding recorda, per exemple, que Grok generava més de 6.000 imatges cada hora el desembre passat.
Segons els autors, aquest enfocament condemna les autoritats a un joc interminable de picar talps: quan es retira una imatge o es persegueix un autor, n'apareixen d'altres. La proposta és mirar on hi ha colls d'ampolla en tota la cadena, com ara les botigues d'aplicacions o els serveis de pagament, de manera semblant al que es fa amb altres continguts il·legals. L'equip ha publicat també un web amb el mapa de l'ecosistema perquè el puguin fer servir legisladors i entitats.
L'estudi té límits clars. Analitza la legislació dels Estats Units i no la d'altres països, com la Unió Europea, que ja obliga les grans plataformes a avaluar riscos. És una anàlisi del marc legal i de l'ecosistema, no una mesura de quantes imatges circulen ni de quines mesures funcionen millor, i la llei federal TAKE IT DOWN, aprovada el maig del 2025, encara és massa recent per saber-ne l'efecte.