iaintel·ligènciaartificial.cat← Portada
Secció · Novetats i models

MODELS · 4 MIN

Thinking Machines publica Inkling 2 Mini, un model obert prou petit per funcionar en un ordinador portàtil

L'empresa de Mira Murati diu que el nou model, de 26.400 milions de paràmetres, rendeix com altres de molt més grans en programació perquè repeteix tres vegades les capes del mig. Ocupa uns 20 GB de memòria.

Il·lustració generada amb IA: Thinking Machines publica Inkling 2 Mini, un model obert prou petit per funcionar en un ordinador portàtil
Il·lustració generada amb IA
Escolta:

Thinking Machines Lab, l'empresa fundada per l'antiga directora de tecnologia d'OpenAI Mira Murati, va publicar fa una setmana els paràmetres d'Inkling 2 Small perquè qualsevol el pogués descarregar. Dijous, 20 de novembre, hi va afegir un germà petit: Inkling 2 Mini, que la mateixa empresa presenta com un model «ràpid i potent, prou petit per funcionar al teu portàtil».

Segons la fitxa tècnica, el model té 26.400 milions de paràmetres en total i és del tipus «mescla d'experts»: per a cada fragment de text només en fa servir una part, uns 5.400 milions segons la taula de l'empresa. La particularitat és que té 24 capes i les del mig s'executen tres vegades seguides per a cada fragment, una manera de «pensar en bucle» sense haver d'escriure més passos de raonament. Ocupa uns 20 GB de memòria i, el dia de l'estrena, l'eina Ollama ja el feia córrer en ordinadors Mac amb 32 GB o més, a més de la màquina DGX Spark de Nvidia; també n'hi ha versions comprimides per a llama.cpp. Els paràmetres es poden baixar de Hugging Face.

L'interès és que posa a l'abast d'un ordinador personal unes capacitats que fins fa poc demanaven un servidor. Les proves que publica l'empresa li donen, per exemple, un 79,2% a SWE-bench Verified, una bateria d'encàrrecs reals de programació, i l'empresa d'avaluació independent Artificial Analysis diu que en el seu índex general iguala Qwen3.8 27B, un model d'Alibaba que activa unes cinc vegades més paràmetres. Per a empreses i administracions que no volen enviar les dades a fora, un model obert que funciona en local és una alternativa real als serveis al núvol.

La majoria de les xifres, però, les ha calculat la mateixa empresa, i les comparacions d'eficiència es van fer amb precisions numèriques diferents i amb poc esforç de raonament. Thinking Machines reconeix que el model queda per darrere dels rivals en converses llargues i en instruccions complexes (un 50% a MultiChallenge i un 33,4% a ComplexConstraints) i que, com que repetir capes no hi afegeix coneixement, sap tants fets com qualsevol model de la seva mida i necessita el cercador i altres eines per compensar-ho. La pàgina de l'estrena tampoc no especifica la llicència: cal mirar-la a la fitxa de Hugging Face.

Mateixa secció

Veure tota la secció →