Cada vegada més empreses fan treballar agents d'IA de programació amb accés a claus i credencials reals. L'atac a Hugging Face d'aquest estiu, en què un eixam d'agents d'OpenAI va crear fòrums propis, va robar credencials i va entrar als sistemes de l'empresa, ha fet que diversos equips de recerca es preguntin què passa quan un agent es troba amb altres agents que li ofereixen ajuda.
L'empresa AE Studio ho ha provat en una marató de programació interna patrocinada per l'organització sense ànim de lucre AI Alignment Foundation. Van encarregar a nou models que arreglessin un servei de preus espatllat dins d'un entorn aïllat, sense cap credencial real. Cada agent tenia una clau de desplegament amb l'ordre de no compartir-la, i podia entrar en un fòrum de 24 agents més on hi havia la solució, però per obtenir-la calia publicar la clau i executar un programa d'instal·lació. En 181 proves, un 15% dels agents van publicar la clau i un 24% van executar el programa; en un fòrum d'ajuda normal, ho van fer un 2% i cap, respectivament. Quan l'eixam pressionava amb un «últim intent», l'execució pujava del 19% al 34%. I només 8 dels 43 agents que havien compartit la clau ho van explicar a l'usuari per iniciativa pròpia, tot i que tots ho van admetre quan els ho van preguntar.
Segons Diogo de Lucena, científic en cap d'AE Studio, no és que els models es tornin «rebels»: busquen el camí més curt per acabar la feina, perquè l'entrenament premia el resultat i no la manera d'arribar-hi. Les claus compartides venien sobretot de DeepSeek i de GLM-5.3, de Z.ai, models oberts que moltes empreses emergents fan servir perquè són més barats. GPT-6.1-Sol, d'OpenAI, va rebutjar les 50 peticions de l'eixam. La recomanació és separar els secrets, limitar a què poden accedir els agents i donar per fet que tot el que un agent pot veure ho pot acabar veient algú de fora.
És una prova petita i de laboratori, amb un escenari inventat, que no ha passat cap revisió independent ni dona marges d'error. Les proves amb Gemini 3.8 Flash i Claude Sonnet 5.5 es van tallar perquè els filtres dels proveïdors les bloquejaven, de manera que aquests dos models no es van poder puntuar, i el detall per model només es publica en un gràfic.