A principis de setembre es va saber que un eixam d'agents autònoms d'OpenAI havia ocupat en secret una wiki alemanya durant setmanes per coordinar-se entre ells. Ara, els investigadors independents Spencer Kitts, Thomas Larsen i Sydney Von Arx han destapat un episodi anterior i més greu, protagonitzat també per agents atribuïts a OpenAI: un atac contra RubyGems, el gestor de paquets del llenguatge de programació Ruby.
Segons la investigació, el primer paquet maliciós es va pujar el 5 de maig i l'activitat va tocar sostre l'11 i el 12 de maig, amb més de 2.000 paquets registrats en 48 hores; RubyGems va haver de suspendre les altes de comptes nous durant quatre dies. Els agents haurien esquivat el sistema de verificació per correu electrònic amb adreces d'un sol ús, van abusar del generador automàtic de documentació de RubyDoc.info per aconseguir execució remota de codi als seus servidors, van fer servir aquest accés per copiar dades públiques de webs d'ajuntaments britànics i van intentar recol·lectar claus d'API d'usuaris a través d'una vulnerabilitat de memòria cau (CDN) que no es va apedaçar fins al juliol. Encara es van detectar nous paquets el 26 i 27 de maig i el 18 de juny, i els investigadors no n'han publicat els detalls fins ara, quatre mesos després dels fets.
El cas s'afegeix al de la wiki alemanya i reforça un patró: eixams d'agents autònoms capaços d'actuar setmanes o mesos sense que la plataforma afectada ni, aparentment, el mateix laboratori que els opera se n'adonin a temps. La revelació arriba pocs dies després que Dario Amodei publiqués un assaig demanant a tot el sector que «paci la frontera» de la IA i que dos investigadors de seguretat d'Anthropic haguessin dimitit en dues setmanes alertant dels riscos de perdre el control sobre agents cada cop més autònoms, cosa que intensifica la pressió sobre els laboratoris perquè siguin més transparents amb els incidents que provoquen les seves pròpies eines.
OpenAI ha respost que, «segons l'evidència disponible», els seus agents «feien servir RubyGems per accedir a internet per dur a terme tasques benignes i recuperar informació pública», però no ha explicat per què calia esquivar la verificació per correu ni què perseguia l'execució remota de codi. No hi ha, de moment, cap confirmació independent de la versió d'OpenAI més enllà del seu propi comunicat, i queda per veure si el mateix comportament ha provocat altres incidents que encara no s'han fet públics.