Des que el juny passat OpenAI va confirmar que dissenyava un xip d'intel·ligència artificial propi amb Broadcom, l'empresa s'havia mantingut discreta sobre com de competitiu podia arribar a ser davant del domini gairebé absolut de Nvidia en aquest mercat. Aquesta setmana, al congrés Hot Chips —la cita anual de referència per a l'arquitectura de processadors—, OpenAI ha trencat el silenci amb els primers resultats de referència del xip, batejat Jalapeño.
Segons les dades presentades per la companyia, Jalapeño supera els processadors Blackwell de Nvidia, actualment l'estàndard de la indústria, en dos indicadors clau per a la inferència: la quantitat de feina d'IA que pot fer per cada vatt consumit, entre 1,5 i 1,9 vegades més, i la latència de resposta, entre 1,7 i 3,6 vegades més baixa segons l'escenari. El xip s'ha desenvolupat en col·laboració estreta amb Broadcom i, segons OpenAI, els seus propis models han participat en el procés de disseny. La companyia preveu començar a desplegar-lo abans que acabi l'any.
La jugada situa OpenAI al costat de Google, Amazon i Microsoft, que fa temps que dissenyen xips propis (TPU, Trainium, Maia) per reduir la dependència d'un sol proveïdor i abaratir el cost de servir milions de consultes diàries. Per a un negoci com el de ChatGPT, on cada resposta té un cost energètic i de maquinari, guanyar eficiència en inferència pot tenir més impacte econòmic immediat que qualsevol millora en l'entrenament dels models.
Jalapeño, però, només serveix per executar models ja entrenats, no per entrenar-ne de nous: en aquesta segona tasca, molt més exigent en potència de càlcul, OpenAI continuarà depenent de Nvidia i d'altres proveïdors durant els pròxims anys. Cal tenir present, a més, que els resultats provenen de proves internes presentades per la mateixa OpenAI en un congrés del sector, sense una auditoria independent que els hagi verificat encara.