Una «porta del darrere» en un model d'IA és un comportament amagat que algú hi ha introduït enverinant les dades d'entrenament: el model funciona amb normalitat fins que rep un senyal concret, una paraula o una frase que només coneix l'atacant, i aleshores fa el que l'atacant vol. Com que la resta del temps es comporta bé, és molt difícil de detectar. El risc ha crescut amb el costum d'adaptar models oberts amb ajustos petits i barats, com els LoRA, que qualsevol pot publicar i que molts reutilitzen sense saber d'on surten.
Un equip de la Universitat Estatal de Carolina del Nord, encapçalat per la professora de computació Jung-Eun Kim i el doctorand Jianwei Li, ha presentat un conjunt de tècniques per eliminar o contenir aquestes portes abans de posar el model en marxa. Dos dels treballs estan acceptats al congrés NeurIPS 2026, que se celebra al desembre. El primer identifica dins del model les direccions internes associades a la porta del darrere i projecta l'ajust LoRA en un espai on no les pot fer servir: segons l'article, el percentatge d'atacs que funcionen baixa de gairebé el 100% a menys del 10%, sense perdre ni les capacitats del model de base ni les habilitats noves de l'ajust. El segon proposa una estratègia diferent: deixar que la porta es formi durant l'entrenament però conduir-la cap a un «expert» aïllat del model, que després es desconnecta amb una sola operació; així, els atacs que funcionen passen del 100% a entre el 0% i el 10% en la majoria de casos provats, amb dues tasques, tres tipus d'atac i quatre famílies de models.
La rellevància és pràctica: les defenses existents solen demanar coses que a la vida real no es tenen, com saber quin és el senyal secret, disposar d'una còpia neta del model o tornar-lo a entrenar a fons. Aquestes tècniques no ho necessiten, i el grup ha publicat també un tercer mètode per netejar els paràmetres d'un model sense coneixement previ, presentat a ICLR, i un article de posició a ICML.
Els resultats s'han obtingut en proves de laboratori amb atacs coneguts, i la utilitat del model, segons els mateixos autors, sovint es conserva però de vegades se'n ressent una mica. Que les tècniques es puguin aplicar «immediatament», com diuen els investigadors, encara s'ha de veure fora del laboratori i davant d'atacants que s'hi adaptin. Les versions dels articles es poden consultar a arXiv mentre no surten les actes del congrés.