La majoria de proves de seguretat i alineament dels grans models de llenguatge s'han dissenyat pensant en un sol agent que respon sol a una pregunta. Però cada cop més sistemes d'IA operen en grups —negociant, votant o coordinant-se entre ells— i fins ara gairebé ningú havia mesurat com canvia el seu comportament col·lectiu segons quants agents hi ha en joc.
Un equip de City St George's, de la Universitat de Londres, en col·laboració amb la IT University de Copenhaguen i la Universitat Politècnica de Catalunya, ha publicat el 18 d'agost a Proceedings of the National Academy of Sciences (PNAS) un estudi que aborda precisament això. Amb el «joc de noms» (naming game), un marc clàssic per estudiar com sorgeixen les convencions socials, els investigadors van fer competir quatre models de llenguatge —Microsoft Phi-4, OpenAI GPT-4o, Qwen QwQ-32B i Meta Llama 3.1 70B— sobre parells de paraules amb càrrega social, en poblacions que anaven de dos fins a un milió d'agents. Van identificar tres maneres en què la mida del grup distorsiona el resultat: l'amplificació (una preferència inicial s'enforteix fins a fer-se gairebé certa), la generació (agents neutres acaben afavorint col·lectivament una opció sense cap motiu) i la reversió (el grup es decanta per l'opció que els agents individuals preferien menys). En un cas concret, Qwen i Phi van convergir en «her» mentre GPT-4o i Llama ho van fer en «his» per al mateix parell de paraules, tot i partir de preferències idèntiques.
El professor Andrea Baronchelli, autor principal de l'estudi, ho resumeix amb el lema de la física «more is different»: «no es pot entendre un embús de trànsit estudiant un sol cotxe». La implicació pràctica és incòmoda per a qui dissenya sistemes multiagent: unes proves de seguretat fetes amb un grup petit no prediuen com es comportarà el mateix model en un desplegament a gran escala, perquè no hi ha un llindar únic on el canvi es produeix.
Els mateixos autors adverteixen que van triar el biaix de gènere com a cas de prova «perquè és mesurable», no perquè sigui l'única forma de desalineament rellevant: l'estudi mesura una descoordinació interna dels sistemes, no una desviació respecte de valors humans concrets, i es fa en un entorn deliberadament minimalista, sense el context real que tindria un desplegament comercial.