iaintel·ligènciaartificial.cat← Portada

CIÈNCIA · 5 MIN

Una eina de la Universitat de Michigan redueix entre un 10% i un 30% l'energia d'entrenar grans models d'IA, segons els autors

Kareus, presentada al congrés OSDI '26, se suma a Perseus, que ja n'estalviava fins a un 30%. Els autors creuen que junts s'acostarien al 40-50%, però és una estimació, no una mesura.

Il·lustració generada amb IA: Una eina de la Universitat de Michigan redueix entre un 10% i un 30% l'energia d'entrenar grans models d'IA, segons els autors
Il·lustració generada amb IA
Escolta:

Per entrenar un model d'IA gran, el model i les dades es reparteixen entre centenars o milers de processadors gràfics (GPU). Com que no acaben tots alhora, els més ràpids han d'esperar els més lents, i mentrestant consumeixen energia sense fer res d'útil. Aquest malbaratament és el que ataquen dues eines de l'equip de Mosharaf Chowdhury, a la Universitat de Michigan.

La primera, Perseus, alenteix els nuclis que van massa ràpids perquè acabin a la vegada que els altres: un estudi del 2024 va mesurar un estalvi d'energia d'entrenament de fins a un 30%. La segona, Kareus, coordina els nuclis dins de cada GPU i ordena el calendari de les tasques de càlcul; en dos models de llenguatge oberts de referència va reduir l'energia necessària entre un 10% i un 30% més. Kareus, obra de Ruofan Wu, Jeff Ma, Jae-Won Chung i Chowdhury, es va presentar el juliol al congrés USENIX OSDI '26 amb el títol «Kareus: Joint Reduction of Dynamic and Static Energy in Large Model Training».

L'energia que gasten els centres de dades d'IA és un dels debats de fons del sector. En aquest cas, l'avantatge és que no cal canviar el maquinari: és programari que reorganitza el treball. L'equip col·labora amb NVIDIA per integrar l'enfocament a Megatron-LM, la plataforma oberta amb què aquesta empresa entrena models.

Els límits són clars. L'estalvi conjunt de 40-50% en models grans és una extrapolació dels autors («podria acostar-s'hi»), no un resultat mesurat; les mesures publicades són les del 30% de Perseus i les del 10-30% de Kareus en dos models. Que l'estalvi arribi sense afectar la velocitat ni el rendiment ho afirmen els autors, i la peça no en detalla les proves. I que serveixi en altres plataformes d'entrenament és només una possibilitat que apunta Chowdhury.

Mateix tema

Butlletí de dissabte

La setmana d’IA, en cinc minuts.