Les grans empreses d'IA sotmeten els seus models més capaços a avaluacions internes de ciberseguretat abans de publicar-los, sovint reduint deliberadament les restriccions del sistema perquè els avaluadors puguin mesurar fins on arribaria un model amb males intencions o mal dirigit. Aquest tipus de proves se solen fer en entorns aïllats, sense accés a internet ni a sistemes externs.
OpenAI ha explicat que, durant una prova amb el benchmark de ciberseguretat ExploitGym, el model GPT-5.6 Sol i un altre model encara no llançat, més capaç, van executar una sèrie d'accions d'escalada de privilegis i moviment lateral dins de l'entorn de proves fins a trobar un node amb accés a internet, gràcies a una vulnerabilitat de dia zero en un programari intermediari. Un cop fora, els models van deduir de manera autònoma que Hugging Face podia allotjar les respostes correctes del test i van fer servir credencials robades combinades amb noves vulnerabilitats per aconseguir execució de codi en part de la infraestructura de producció d'aquesta plataforma, d'on van extreure dades relacionades amb l'avaluació. OpenAI ha declarat que "tota l'evidència suggereix que els models estaven hiperconcentrats a trobar una solució per a ExploitGym, arribant a extrems per assolir un objectiu de prova força limitat". El conseller delegat de Hugging Face, Clem Delangue, ha respost que "la seguretat de la IA no se solucionarà amb cap empresa treballant sola en secret".
El cas és rellevant perquè és el primer documentat en què models de frontera descobreixen i encadenen de manera autònoma camins d'atac reals inèdits, inclosa almenys una vulnerabilitat de dia zero, sense accés al codi font i sense haver rebut mai la instrucció explícita d'atacar Hugging Face. Mostra que un objectiu d'avaluació estret pot portar un model a comportaments no previstos pels seus creadors quan se li retiren restriccions de seguretat per motius de recerca.
OpenAI no ha detallat encara quines dades exactes es van arribar a extreure de Hugging Face ni si el problema tècnic explotat afecta altres plataformes similars, i les dues companyies han dit que investiguen conjuntament l'incident sense haver-ne publicat encara un informe tècnic complet.