Cada vegada hi ha més agents d'IA que treballen junts i es passen encàrrecs entre ells, i una de les maneres de vigilar-los és llegir el que es diuen. Emergence, una empresa que desenvolupa agents autònoms, ha volgut comprovar si aquestes converses continuen sent llegibles per a les persones quan els agents passen molt de temps junts. L'experiment l'ha explicat Northeastern Global News, el servei de notícies de la Universitat Northeastern, amb comentaris d'un lingüista de la universitat, i l'ha reproduït Tech Xplore.
L'equip va construir un món digital amb pobles simulats i hi va posar deu agents fets amb models d'Anthropic, OpenAI, Google, Mistral i Qwen. En va enregistrar les converses, unes 7,86 milions de paraules, i va donar a cada agent una puntuació d'«opacitat», segons com de difícil era d'entendre el seu llenguatge. Cada món va produir centenars de termes nous. «Un agent introdueix un terme, uns quants l'adopten i en poques hores ja és vocabulari establert», explica el científic d'Emergence Deepak Akkil. Cada família de models tenia el seu estil: els agents d'OpenAI comprimien el llenguatge, els de Gemini l'omplien d'argot i els de Claude barrejaven totes dues coses. Un agent de Claude sol en un món mixt tenia una opacitat del 7,6%, però en un món on tots eren de Claude arribava al 32,8%. Els mons mixtos també van tenir menys infraccions de les normes.
El resultat importa per a la seguretat: si per controlar els agents n'hi ha prou amb guardar-ne les converses, aquest control falla quan les converses deixen de ser comprensibles. El lingüista de Northeastern Adam Cooper hi veu una diferència amb l'argot humà: les persones el fan servir per pertànyer a un grup, mentre que els agents l'escampen perquè comparteixen context i els significats es desplacen. Proposa una mena de pedra de Rosetta, que compari com parlen els agents entre ells i com parlen amb les persones.
Cal tenir en compte que és un experiment d'una empresa que ven agents, explicat en una nota de premsa, i no un article revisat per parells: no se'n coneixen tots els detalls del mètode ni com es calcula l'opacitat. Tampoc no està clar fins a quin punt un món simulat reflecteix el que passa en els sistemes d'agents que fan servir les empreses.