Les proves de seguretat dels models d'intel·ligència artificial es fan gairebé sempre sobre un model sol: se'l posa a prova, se li busquen les escletxes i se n'avalua el comportament individual. Però els agents d'IA ja no treballen aïllats: s'estan desplegant en grups a les finances, l'energia, la defensa i les xarxes socials, i alguns treballs ja modelen poblacions de milions d'agents que interactuen entre ells.
Un equip de la City St George's (Universitat de Londres), la IT University of Copenhagen i la Universitat Politècnica de Catalunya va publicar el 19 d'agost a Proceedings of the National Academy of Sciences un estudi que mesura precisament què canvia quan varia el nombre d'agents. Van fer servir el «joc dels noms», un marc clàssic per estudiar com neixen les convencions: parelles d'agents triades a l'atzar escullen una paraula d'un conjunt compartit i són recompensades quan coincideixen, sense saber mai que formen part d'un grup. Amb quatre models -Phi-4 de Microsoft, GPT-4o d'OpenAI, QwQ-32B de Qwen i Llama 3.1 70B Instruct de Meta- i poblacions que anaven de dos agents fins a un milió, van trobar que la interacció pot allunyar el grup del que volen els seus membres de tres maneres: amplificant una inclinació existent, creant una preferència del no-res entre agents individualment neutres, o invertint-la del tot. Per al parell {her, his}, les poblacions de Qwen i Phi convergien cap a «her» i les de GPT i Llama cap a «his», tot i que els agents individuals partien de preferències gairebé idèntiques. I la mida a la qual apareix el gir varia enormement: per a algunes combinacions n'hi ha prou amb dos agents; per a d'altres, en calen unes deu mil.
La troballa és rellevant perquè assenyala un forat concret a la manera com avui s'avalua la seguretat de la IA. "L'alineament de la IA encara es fa com si cada model visqués sol al món", resumeix Andrea Baronchelli, catedràtic de Ciència de la Complexitat a la City St George's i autor sènior de l'estudi, que hi afegeix que "provar un sol model no és prou; i el que mostren els nostres resultats és que provar una sola mida de grup tampoc no ho és". La primera autora, Ariel Flint, va més enllà: el biaix era el seu cas de prova perquè és mesurable, però "no hi ha cap raó per pensar que la col·lusió, l'engany o la cooperació siguin immunes als efectes de mida". Un model, doncs, pot passar totes les proves en solitari i produir després resultats que ningú no ha triat quan es desplega al costat de còpies de si mateix.
Els autors acoten amb cura què han demostrat i què no. El biaix que mesuren és intern a la tasca de coordinació -un desajust entre el que prefereixen els agents individuals i el que acaba decidint el grup-, no una desviació respecte dels valors humans. L'escenari és deliberadament mínim, despullat de context real, precisament per aïllar l'efecte de la interacció, i el pas següent que ells mateixos proposen és estudiar poblacions amb models barrejats i agents inserits en estructures de xarxa realistes. L'article es titula «Group size effects and collective misalignment in LLM multi-agent systems».