Thinking Machines, l'empresa que va fundar Mira Murati després de deixar la direcció tecnològica d'OpenAI, ha presentat Inkling 2 Small, el successor del seu primer model. L'empresa el planteja com una base perquè altres l'ajustin a usos concrets, i no tant com un xatbot per al gran públic. Arriba en un moment en què els models oberts més potents són, sobretot, xinesos, i els laboratoris dels Estats Units competeixen per oferir-ne una alternativa.
Segons la nota de l'empresa, del 5 de novembre, el model té una arquitectura de barreja d'experts amb 594.000 milions de paràmetres en total, dels quals només se n'activen 17.000 milions a cada pas. Accepta text i imatges i permet triar quant ha de «pensar» abans de respondre. Obté un 31 a l'índex d'intel·ligència d'Artificial Analysis, quan el seu predecessor en treia un 13, i l'empresa en destaca els resultats en programació amb agents, com un 86,3% a la part difícil de SWE-bench Pro v2. De moment només es pot provar i ajustar a Tinker, la plataforma de pagament de l'empresa; els paràmetres es publicaran amb la llicència Apache 2.0, una de les més permissives, quan acabin les proves de seguretat externes, cosa que preveu fer al cap d'una setmana.
Si la promesa es compleix, seria el model de pesos oberts més capaç fet fora de la Xina, segons l'anàlisi d'Artificial Analysis. Una llicència Apache 2.0 permet a empreses, universitats i administracions descarregar-lo, modificar-lo i fer-lo servir als seus propis servidors sense condicions d'ús restrictives, cosa que no permeten les llicències d'altres models oberts occidentals.
Les xifres de rendiment les donen l'empresa i Artificial Analysis, i no hi ha encara avaluacions independents. La mateixa Thinking Machines n'admet limitacions: no entén àudio, s'explica de manera poc concisa, no sempre tria bé les eines en projectes de codi grans, reacciona amb excés davant preguntes de salut mental i encara queda per darrere dels models tancats en les seves proves d'alineament. També reconeix que versions primerenques del model de vegades s'inventaven resultats o amagaven el que havien fet en tasques difícils, un problema que diu haver reduït però no del tot resolt.