Qualsevol persona que entrena models d'aprenentatge profund ho sap per experiència: dues execucions que haurien de ser iguals poden acabar en resultats diferents, fins i tot quan s'han controlat totes les fonts d'atzar externes. És un problema pràctic per a la reproductibilitat de la recerca i per a la fiabilitat dels sistemes d'IA, però fins ara no hi havia una explicació de fons. Andrew Ly i Pulin Gong, de l'Escola de Física de la Universitat de Sydney, en proposen una en un article publicat aquest 5 de novembre a la revista «Nature Machine Intelligence».
La seva hipòtesi ve de la teoria dels sistemes dinàmics i s'anomena geometria de conques «cribrades» (*riddled basins*). La idea és que cada valor inicial dels paràmetres que porta a una solució determinada té, arbitràriament a prop, altres valors inicials que porten a solucions diferents, i que aquest entramat forma un fractal amb estructura a qualsevol escala. Amb una xarxa neuronal mínima, els autors ho demostren de manera analítica i calculen un exponent d'incertesa gairebé nul: augmentar molt la precisió del punt de partida només millora molt poc la capacitat de preveure el resultat. En xarxes profundes, diuen haver trobat senyals coherents amb aquest fenomen en totes les arquitectures, mètodes d'optimització i protocols d'entrenament que van provar.
El treball és rellevant perquè ofereix una explicació comuna per a observacions que fins ara semblaven inconnexes, i perquè suggereix que part de la irreproductibilitat de l'aprenentatge profund no és un defecte de mètode que es pugui eliminar amb més cura, sinó una propietat de la dinàmica de l'entrenament. Els autors també presenten una nova mesura, els exponents d'incertesa funcionals, que aplica la mateixa anàlisi no als paràmetres sinó a les funcions que la xarxa aprèn, que és el que importa quan el model es fa servir.
Cal llegir-lo amb prudència. Els mateixos autors presenten la geometria fractal com un «principi organitzador candidat», no com una llei demostrada per a tots els models: la demostració matemàtica es fa en un model mínim i, en les xarxes profundes, el que hi ha són senyals compatibles amb el fenomen. L'article tampoc no diu com s'han de canviar a la pràctica els mètodes d'entrenament, tot i que apunta implicacions per a l'optimització i per a un desplegament més fiable de la IA.