Microsoft AI, la divisió que dirigeix el desenvolupament de models propis de la companyia, ha explicat com ha entrenat MAI-Base-2, el seu model fonamental més gran fins ara. Un model «base» és la peça que s'obté després de l'entrenament inicial amb quantitats enormes de text, imatge i codi, abans que s'afineixi perquè converses i obeeixi instruccions.
Segons el text publicat el 15 d'octubre, MAI-Base-2 és un model de «barreja d'experts» amb 2,8 bilions de paràmetres en total i 80.000 milions d'actius en cada càlcul. Es va entrenar durant 38 dies, a l'agost i al setembre, amb 16.000 GPU GB200, i amb una barreja d'unes 50 bilions de tokens, un 36% més de dades que la versió anterior. Microsoft assegura que no ha fet servir destil·lació d'altres models i que el model aprèn la visió de manera nativa, amb un 18% de dades visuals. En el procés, l'aprofitament mitjà del maquinari va ser del 21% i el temps efectiu d'entrenament va arribar al 89%.
La xifra que Microsoft destaca és l'eficiència: afirma que el model és entre 4 i 12 vegades més eficient en càlcul d'entrenament que el DeepSeek-V4-Pro-Base i entre 6,3 i 12,7 vegades més que MAI-Base-1, i que supera tots els models de pesos oberts que ha provat en les seves avaluacions internes. Per al sector és una indicació que els grans proveïdors de núvol volen deixar de dependre només de models de socis i construir-ne de propis a escala frontera.
El treball té límits importants. Les comparacions són de Microsoft, amb avaluacions que no ha obert a revisió externa, i el model encara és en postentrenament, és a dir, no està acabat. Tampoc no hi ha data de llançament: la companyia només diu que llicenciarà els pesos a socis de confiança mitjançant Foundry i que publicarà més resultats aviat. No serà, doncs, un model obert.