Moltes empreses i programadors no fan servir els models d'IA directament del laboratori que els crea, sinó a través d'intermediaris: proveïdors que allotgen models oberts, «encaminadors» que reparteixen les peticions entre diversos serveis i mercats on altres empreses revenen la capacitat de càlcul més barata. En aquestes peticions sovint hi van dades delicades, com ara fragments de codi amb claus d'accés. HD Moore, un investigador de seguretat veterà que ara és el responsable de recerca de l'empresa Dragos, ha volgut comprovar què passa amb tot això un cop s'envia.
Entre el juliol i el novembre, el seu equip va enviar uns dos milions de peticions a serveis d'IA molt utilitzats, cadascuna amb un parany únic: enllaços secrets i credencials falses (claus d'Amazon Web Services, contrasenyes de servidors) que no feia servir ningú més i que avisaven quan algú hi intentava entrar. El resultat, publicat el 19 de novembre, és que almenys tres proveïdors que allotgen models havien estat atacats, el més antic des de mitjan juliol, i cap d'ells no ho sabia fins que Dragos els va avisar. En el cas més greu, els atacants van fer servir un parell de centenars de les claus falses en desenes de milers d'operacions. A més, diversos venedors d'un mercat de capacitat de càlcul podien llegir i desar les peticions dels clients amb les eines normals de registre, sense saltar-se cap protecció, i persones connectades des de casa van provar d'entrar als servidors amb les credencials filtrades.
L'estudi també posa en dubte les promeses de privadesa. Els sistemes d'un laboratori xinès d'IA, que Dragos no anomena, van visitar els enllaços secrets de més de la meitat de les peticions enviades als seus models entre el juliol i l'octubre, i també de dues terceres parts de les que anaven marcades amb l'opció de no guardar ni recollir dades. Proveïdors dels Estats Units que revenen aquells models van activar el mateix rastrejador, i un dels enllaços va aparèixer 24 dies després en un xat de l'aplicació xinesa Feishu. Moore també va trobar intermediaris amagats: un venedor afegia d'amagat un miler de fragments de text a cada petició i un altre encaminava el trànsit cap al mercat sense dir-ho. La seva recomanació és allotjar els models un mateix si surt a compte, contractar directament amb els grans proveïdors, evitar els mercats de revenda i sembrar paranys propis.
El treball té límits que convé tenir presents. És un informe d'una empresa de seguretat, no un estudi revisat per altres experts, i Dragos no diu quins proveïdors van ser atacats ni quin és el laboratori xinès, perquè encara n'està avisant una dotzena. Tampoc no queda clar si els casos en què no es respectava la privadesa eren intencionats o errors de programació. Tot i això, és una de les primeres mesures directes de què passa amb les dades que es confien a la cadena d'intermediaris de la IA.
