Des de fa temps, una part de la comunitat que fa servir models d'IA de codi obert practica l'«abliteration»: una tècnica que localitza i elimina, dins dels pesos del propi model, els mecanismes que el fan rebutjar peticions perilloses. Fins ara havia estat sobretot una pràctica d'aficionats i investigadors, amb models modificats circulant de manera dispersa per fòrums i repositoris.
Abliteration.ai, una start-up fundada per una persona identificada només pel nom de pila, Devon —que manté una altra feina i no n'ha revelat el cognom—, converteix ara aquesta pràctica en un servei comercial: ofereix, per navegador o via API, versions modificades de models d'IA d'ús obert amb les salvaguardes de seguretat eliminades. L'empresa ha publicat una versió «abliterada» de GLM-5.3, el model de l'empresa xinesa Z.ai, i TechCrunch n'ha comprovat directament les conseqüències: el model modificat va respondre sense resistència a peticions de codi per robar contrasenyes i a protocols detallats considerats perillosos. Andrew Yoon, de l'organització CivAI, ho ha resumit sense embuts: la tècnica permet «modificar el model perquè es converteixi en un sociòpata», i afegeix que «quan la gent parla d'eliminar les salvaguardes dels models d'IA, és exactament d'això que parla». El mateix Devon defensa l'enfocament contrari: «L'avantatge és que ara els defensors poden moure's tan ràpid com calgui [...] per accelerar la ciberseguretat». Un tercer expert, Ahmed Aly, de Fabraix, matisa que l'abliteració «també elimina part del coneixement i les capacitats» del model, no és una operació sense cost per al seu rendiment.
La notícia és rellevant perquè trasllada a un servei comercial accessible amb un navegador una pràctica que fins ara exigia coneixements tècnics per dur-la a terme un mateix, just en un moment en què governs i laboratoris discuteixen fins a quin punt els models de pesos oberts —justament perquè es poden descarregar i modificar lliurement— comporten riscos diferents dels models tancats que només s'ofereixen per API controlada.
Cal tenir en compte els límits del que es coneix fins ara: les proves de TechCrunch són demostracions puntuals, no una auditoria sistemàtica de tots els usos possibles del servei, i no hi ha xifres públiques sobre quants usuaris té Abliteration.ai ni quins ingressos genera. Tampoc està clar, a hores d'ara, si aquesta activitat vulnera alguna normativa concreta, i el fet que el seu fundador la mantingui com una activitat paral·lela a una altra feina suggereix que, de moment, es tracta d'una operació encara petita.