Nvidia ha apostat els últims anys per impulsar models d'IA oberts amb la família Nemotron, amb l'objectiu declarat de reduir la dependència dels grans laboratoris tancats i d'ampliar el mercat que consumeix els seus xips. La versió més recent en producció, Nemotron 3 Ultra, fa servir 550.000 milions de paràmetres totals -55.000 milions d'actius, amb una arquitectura de barreja d'experts- entrenats amb 20 bilions de tokens de text i una finestra de context ampliada fins a un milió de tokens.
Segons ha avançat The Information i ha recollit Reuters, la companyia treballa ara en Nemotron 4, la següent generació, que segons diversos empleats consultats tindrà com a mínim un bilió de paràmetres. Nvidia encara no ha fixat data de llançament ni ha completat l'entrenament final, però algunes de les persones implicades en el projecte apunten que el model podria estar llest cap a finals de tardor.
"Nvidia inverteix en Nemotron perquè creiem que cada empresa i cada país necessita models de frontera accessibles per reforçar la seguretat, accelerar la innovació i disposar d'una base en què confiar d'una generació a la següent", ha declarat Kari Briski, vicepresidenta d'IA generativa de Nvidia. El projecte s'emmarca en la Nemotron Coalition, que agrupa socis com Mistral AI, Perplexity, Cursor o Black Forest Labs, i respon també a la pressió creixent dels models xinesos, cada cop més barats.
Es tracta encara d'un projecte en desenvolupament, sense data confirmada ni xifres finals de rendiment, i la informació es basa en fonts internes anònimes recollides per un mitjà especialitzat, no en un anunci oficial de Nvidia.