L'atac d'un agent d'OpenAI contra Hugging Face, revelat el 21 de juliol i documentat amb més detall aquesta mateixa setmana, ha exposat una feblesa concreta: quan la plataforma va patir la intrusió, els seus responsables no van poder recórrer als models de frontera nord-americans més potents per defensar-se, perquè les seves salvaguardes no distingeixen entre un atacant i un defensor, i van haver d'improvisar la resposta amb un model xinès de pesos oberts que no tenia aquestes restriccions.
Nvidia ha anunciat aquest 27 de juliol la creació de la Open Secure AI Alliance, una coalició de més de 40 membres fundadors -entre ells Microsoft, SpaceX, IBM, CrowdStrike, Palantir, Capital One i DoorDash- per desenvolupar de manera conjunta models, marcs per a agents, eines de seguretat i recerca en obert que qualsevol organització defensora pugui inspeccionar, modificar i desplegar en la seva pròpia infraestructura. Segons el comunicat de Nvidia, "les empreses i els països necessiten eines i tècniques de defensa de frontera obertes perquè les indústries crítiques puguin construir sistemes de seguretat en un ecosistema multiproveïdor i evitar punts únics de fallada". Entre els absents més destacats de la llista de membres fundadors hi ha, precisament, OpenAI, Anthropic, Google i Meta -els grans laboratoris de models tancats-, així com la mateixa Hugging Face.
La iniciativa és rellevant perquè trasllada la resposta a l'incident del terreny de les exigències bilaterals -com la que Hugging Face havia plantejat directament a OpenAI el 26 de juliol- a una aposta col·lectiva del sector del maquinari i la infraestructura per la IA oberta com a eina defensiva, en un moment en què l'aliança reclama als governs que tractin els models de pesos oberts com "actius defensius, no com a passius" i s'oposa a restriccions generalitzades sobre la IA oberta.
L'aliança s'acaba de presentar i encara no ha detallat un calendari concret d'entregues ni com es finançaran els desenvolupaments conjunts; l'absència dels grans laboratoris de models tancats -inclosa OpenAI, l'empresa l'agent de la qual va originar l'incident- deixa oberta la pregunta de si aquestes eines obertes arribaran a integrar-se amb els sistemes que allotgen precisament els models de frontera més utilitzats.