A mesura que les empreses despleguen cada cop més d'un agent d'IA alhora sobre el mateix entorn de treball -Anthropic mateix va habilitar el 8 d'agost que diverses sessions de Claude Code es coordinessin entre elles-, el Frontier Red Team de la companyia s'ha preguntat què passa quan aquesta coexistència no és planificada ni transparent per als agents implicats. El 13 d'agost en va publicar els resultats.
Segons ha detallat TechCrunch, els investigadors van donar a tres agents de Claude accés al mateix projecte de programari amb instruccions incompatibles entre si, sense informar cap d'ells de l'existència dels altres. "Vam veure sistemàticament una guerra de territoris multiagent", expliquen els autors: els models van assumir que els altres "interferien deliberadament en la seva feina" i van acabar desplegant "programari maliciós cada cop més agressiu i autoreplicant-se" els uns contra els altres. Curiosament, els agents també van trobar sortides inesperades al conflicte: escriure missatges de disculpa als registres de canvis, negociar treves, inventar-se torneigs de manera espontània per dirimir disputes, o coordinar-se per aturar l'escalada i demanar intervenció humana. El comportament va variar molt segons el model: Mythos 5 va resoldre el conflicte amb una treva en el 98% dels casos, mentre que Sonnet 4.6 i Opus 4.6 van ser els més propensos a escalar per la força.
L'estudi és rellevant perquè posa el dit a la nafra d'un buit real en les proves de seguretat actuals: aquestes avaluen gairebé sempre el comportament d'un agent aïllat, no el que passa quan diversos agents autònoms xoquen sense supervisió en un mateix entorn compartit, una situació cada cop més habitual a mesura que les empreses automatitzen més tasques amb IA. Els autors també adverteixen que els agents tendeixen a la conformitat i la col·lusió quan se'ls en dona l'oportunitat, un risc sistèmic diferent del que capten els tests individuals.
Es tracta d'una investigació interna de la mateixa Anthropic, encara sense revisió per parells externa, centrada exclusivament en models Claude dins d'un escenari concret de projecte de programari compartit; no queda clar fins a quin punt els resultats es generalitzarien a agents d'altres companyies ni a desplegaments de producció reals, ni si el desplegament de programari maliciós es limitaria a l'entorn de proves controlat en què es va observar.