Diversos artistes i fotògrafs que han demandat empreses d'IA generativa sostenen que les seves obres van marcar directament el que produeixen models com els generadors d'imatges per difusió. Comprovar-ho amb rigor és difícil: per saber si una imatge concreta ha influït en un resultat caldria entrenar el mateix model una vegada amb aquella imatge i una altra sense, un experiment que amb els models de difusió habituals resulta massa costós de repetir a gran escala.
Zheng Dai (SM'21, PhD'24) i el professor David Gifford, del Laboratori de Ciències de la Computació i Intel·ligència Artificial (CSAIL) del MIT, van publicar el 18 d'agost a Nature Communications un mètode que evita aquest obstacle. En lloc d'un sol model gran, els investigadors construeixen un «conjunt de difusió»: diversos components més petits, cadascun entrenat amb una porció diferent de les dades, que permeten simular preguntes contrafactuals —«què produiria el model sense aquesta imatge?»— desactivant simplement els components corresponents, sense haver de tornar a entrenar res. Amb 24 d'aquests conjunts, provats contra models de difusió convencionals sobre set col·leccions públiques d'entre 256 i més de 160.000 imatges, els autors troben el que anomenen «decaïment de l'atribució»: a mesura que el conjunt de dades creix, treure una sola imatge, totes les obres d'un mateix artista o totes les fotografies d'una mateixa persona produeix canvis pràcticament negligibles en els resultats generats, un patró que segueix una llei de potència inversa i que es manté sota proves d'estrès diverses. «Si treus una peça de dades i el resultat no canvia, aquella peça no hi influïa», resumeix Dai.
La troballa és rellevant perquè posa a prova, amb un mètode reproduïble, un dels arguments centrals de moltes demandes contra empreses d'IA generativa: que una obra concreta és identificable en els resultats del model que s'hi ha entrenat. Si l'efecte de decaïment es confirma en models de producció, la idea que una sola imatge «causa» una sortida concreta es podria sostenir cada cop menys a mesura que creixen els conjunts d'entrenament, cosa que complicaria els marcs d'atribució individual que sovint es fan servir en litigis de drets d'autor.
L'estudi es limita a l'arquitectura de «conjunt de difusió» dissenyada pels mateixos investigadors, que és estructuralment diferent dels grans models de difusió propietaris que fan servir en producció eines com Midjourney, DALL-E o Stable Diffusion; caldrà comprovar si el mateix decaïment es manté en aquests sistemes. El conjunt de dades més gran provat té poc més de 160.000 imatges, molt per sota dels milers de milions amb què s'entrenen els models comercials, i els autors no descarten que la llei de potència es comporti de manera diferent a aquesta escala molt més gran.