Les aplicacions capaces de "despullar" digitalment fotografies reals mitjançant IA generativa s'han multiplicat als grans mercats d'aplicacions mòbils en els últims anys, sovint camuflades sota noms genèrics de retoc fotogràfic o intercanvi de cares, cosa que n'ha dificultat la detecció i retirada per part d'Apple i Google.
Segons van informar MacRumors i Engadget el 17 de juliol, el fiscal de la ciutat de San Francisco, David Chiu, va enviar cartes de cessament a Apple i Google exigint la retirada immediata de tretze aplicacions —vuit a l'App Store i cinc a Google Play— capaces de generar imatges de nus falsos sense consentiment a partir de fotografies reals. Chiu reclama que ambdues empreses trenquin relacions amb els desenvolupadors d'aquestes aplicacions i deixin de cobrar-ne comissions per compres dins de l'app, i qualifica la pràctica d'"il·legal, danyosa i completament inacceptable". Apple ha declarat que aquestes aplicacions incompleixen les seves normes de revisió, que ja n'ha retirat tres i que està tancant els comptes de desenvolupador corresponents; Google ha assegurat haver eliminat "centenars" d'aplicacions de despullament, cinc de les quals arran de l'avís de Chiu.
El cas és rellevant perquè trasllada la responsabilitat legal dels continguts d'abús generats amb IA no només als creadors de les aplicacions, sinó també a les grans plataformes que les distribueixen i en treuen comissió, en un moment en què creix la pressió social i política contra les eines de deepfake sexual no consentit, sobretot dirigides contra dones i menors.
No es coneix encara si Apple i Google acabaran complint totes les exigències del fiscal ni si hi haurà conseqüències legals en cas de no fer-ho. Chiu ja havia demandat prèviament setze llocs web que permetien generar pornografia no consentida amb IA, però no és clar si aquesta nova acció contra Apple i Google derivarà en una demanda formal.