Fer servir un model d'IA a gran escala costa diners: les empreses paguen per cada consulta que fan als models que lloguen al núvol. Això ha creat un negoci criminal que els especialistes anomenen *LLMjacking*: robar les claus o els comptes d'accés d'una empresa i fer servir els seus models perquè sigui ella qui pagui la factura. L'equip de resposta a incidents de Google, Mandiant, i el grup d'intel·ligència d'amenaces de Google (GTIG) hi han dedicat un informe publicat aquest dilluns.
Segons l'informe, recollit per The Register, els càrrecs fraudulents poden superar els 100.000 dòlars al dia, i algunes organitzacions n'havien acumulat prop d'un milió abans de tallar l'accés als intrusos. L'informe descriu diversos casos: un grup, que Google anomena UNC6993, va aconseguir claus d'accés, en va crear de noves i va activar serveis dins dels projectes de la víctima, amb uns 100.000 dòlars de despesa; un altre va subscriure els comptes de les víctimes a tarifes de pagament per ús i, per esquivar els límits, creava i esborrava comptes de servei de vida curta. En un tercer cas, un intrús va fer més de 500.000 consultes en menys de vuit hores amb claus robades per alimentar Jet Night, un servei que revèn accés a models per uns 60 dòlars al mes amb ús il·limitat, molt per sota dels 100 a 250 dòlars habituals. «Com que els preus són tan baixos, creiem que el servei depèn de claus robades per ser rendible», diu el GTIG.
La rellevància és que el robatori de claus d'IA s'està professionalitzant, amb uns grups que entren als sistemes i uns altres que revenen l'accés. Google preveu que els delinqüents el prioritzaran cada cop més per sobre d'altres usos de recursos robats, com la mineria de criptomonedes. John Hultquist, analista en cap del GTIG, adverteix que protegir aquests recursos no només evita factures desbocades, sinó també «una allau d'atacs barats i autònoms». L'informe recomana guardar les claus en un sistema centralitzat i canviar-les sovint, donar a cada compte només els permisos imprescindibles i revisar automàticament el codi font per trobar-hi claus publicades per error.
Cal tenir present que l'informe el signa Google, que també ven serveis d'IA al núvol i de seguretat, i que no diu quantes empreses s'han vist afectades ni quins proveïdors de models hi ha darrere de cada cas. Les xifres de pèrdues són de casos concrets investigats per Mandiant, no una estimació del conjunt del sector. El fenomen tampoc no és nou: el terme es va encunyar el 2024 i CrowdStrike ja n'havia documentat un cas a l'agost amb unes 200.000 consultes en dos minuts.