Un dels arguments centrals en els litigis de propietat intel·lectual contra els generadors d'imatges per IA és que una obra concreta del conjunt d'entrenament és, d'alguna manera, responsable d'una imatge generada concreta. Provar aquesta relació de manera directa ha estat difícil perquè, normalment, l'única manera de saber què passaria sense una imatge determinada és reentrenar tot el model des de zero, un procés car i lent.
Zheng Dai, exinvestigador del Laboratori de Ciències de la Computació i Intel·ligència Artificial (CSAIL) del MIT, i el professor David Gifford han publicat el 18 d'agost a Nature Communications l'article «Outputs of generative diffusion models are often unattributable». Els investigadors van construir «conjunts de difusió»: en lloc d'un únic model monolític, diversos components més petits entrenats amb porcions diferents de les dades, de manera que es pot desactivar un component -i, per tant, «esborrar» les imatges que va veure- sense haver de reentrenar res. Amb 24 d'aquests conjunts, comparats amb models de difusió convencionals i entrenats amb set col·leccions públiques d'entre 256 i més de 160.000 imatges (CIFAR-10, CelebA, MetFaces, ArtBench), van mesurar el que anomenen «radi contrafactual»: la diferència màxima entre una imatge generada i les versions alternatives que resulten de treure diferents peces de les dades d'entrenament.
El resultat és el que bategen «decadència de l'atribució»: com més gran és el conjunt de dades, menys importa, de mitjana, qualsevol exemple individual en el resultat final, seguint una relació que decau segons una llei de potència inversa. El patró es va mantenir amb diverses mètriques i va resistir proves de contrast amb reentrenaments per força bruta, mides de conjunt diferents i altres tipus de model. «Si treus una peça de dades i el resultat del model no canvia, aquella peça no ha afectat el resultat, així que no té gaire sentit atribuir-li'l», ha resumit Dai. A escala prou gran, sovint es pot treure una imatge concreta, o totes les d'un mateix artista, sense que la mostra generada canviï.
El treball se centra exclusivament en models de difusió d'imatges i no diu res sobre si el mateix patró es dona en els grans models de llenguatge, i els autors no pretenen resoldre la qüestió legal de la responsabilitat -qui ha de respondre per una imatge generada-, només mostrar que el vincle tècnic d'atribució entre una dada d'entrenament concreta i una sortida concreta sovint no existeix a escales grans.