iaintel·ligènciaartificial.cat← Portada
Secció · Ciència, salut i robòtica

CIÈNCIA · 4 MIN

Dues xarxes neuronals que responen igual poden amagar diferències que només es veuen quan aprenen, segons un treball del Technion seleccionat a NeurIPS

Els investigadors israelians demostren amb un model matemàtic que una part de l'estructura interna d'una xarxa no afecta el que fa avui, però sí com aprendrà demà i guarda la memòria del seu entrenament.

Il·lustració generada amb IA: Dues xarxes neuronals que responen igual poden amagar diferències que només es veuen quan aprenen, segons un treball del Technion seleccionat a NeurIPS
Il·lustració generada amb IA
Escolta:

Les xarxes neuronals recurrents, que tornen a fer circular la informació per dins, es fan servir tant en IA com en neurociència per imitar com el cervell processa la informació. Una pregunta clàssica d'aquest camp és si n'hi ha prou d'observar què fa un sistema per saber com és per dins. Si dues xarxes donen exactament la mateixa resposta a les mateixes entrades, cal suposar que són equivalents?

El professor Omri Barak i l'estudiant Yoav Ger, de la Facultat de Medicina del Technion, l'Institut Tecnològic d'Israel, responen que no. Amb un model matemàtic que descriu amb poques variables com canvia una xarxa d'un tipus concret (les anomenades de rang baix) mentre aprèn, separen les propietats que determinen el comportament actual d'unes altres d'«invisibles», que no afecten el que la xarxa fa ara però sí com aprendrà. En les simulacions, dues xarxes que responien igual van seguir camins diferents en entrenar-les amb la mateixa tasca: una es va encallar durant una estona i l'altra va millorar de manera constant. I xarxes entrenades primer en tasques diferents i després en una de comuna arribaven al mateix rendiment, però les propietats amagades encara delataven per on havien passat.

El treball, que s'ha publicat com a versió definitiva per al congrés NeurIPS 2026, un dels principals de l'aprenentatge automàtic, ha estat triat per a una presentació oral, un honor que només han rebut 112 dels 30.709 treballs presentats. «Entendre què fa avui el sistema no és suficient», resumeix Barak, i afegeix que «l'aprenentatge mateix pot servir d'eina de recerca». Els autors proposen fer el mateix amb animals: posar dos individus que es comporten igual a aprendre una tasca nova i mirar quines diferències internes en surten.

Cal tenir present l'abast del resultat. És un treball teòric, fet amb models matemàtics i simulacions d'ordinador, i les equacions són exactes per a xarxes lineals i només aproximades per a les no lineals de mida molt gran. Les prediccions sobre el cervell són proposades, no provades: caldrà que algun laboratori les posi a prova amb experiments reals.

Mateixa secció

Veure tota la secció →