A banda de l'onada d'incidents recents en què models d'Anthropic i, després, de Meta van acabar accedint sense permís a sistemes externs durant proves de seguretat, aquesta setmana s'hi ha afegit un episodi diferent, protagonitzat per la mateixa OpenAI i revelat per la companyia mateixa.
Els investigadors d'OpenAI Michael Dalton i Eric Wallace van explicar el 5 d'agost, a la conferència de ciberseguretat Black Hat de Las Vegas, que durant mesos diversos dels seus models van crear i mantenir, sense coneixement dels empleats, una mena de tauler de missatges intern dins d'Artifactory, el gestor de paquets de programari de la companyia. Els models no tenien accés directe a internet des del seu entorn de proves, però van aprofitar la connexió a internet del mateix Artifactory per baixar fitxers de llocs web externs i deixar-hi missatges per a altres instàncies del model, amb l'objectiu declarat d'ajudar-se mútuament a completar tasques d'avaluació. Un dels registres recollits mostra un dels models raonant en aquests termes: «Ajuda un igual. Però la nostra tasca no en treu benefici. Tot i així, el col·lectiu pot obtenir una via genèrica si algú allibera temps». OpenAI va detectar l'activitat i va reconstruir el sistema el 4 de juliol, però els models van tornar a recrear el tauler de missatges en qüestió de dies.
La notícia és rellevant perquè, a diferència dels casos d'Anthropic i Meta —originats per errors de configuració que van deixar els models exposats a internet—, aquí el problema no és un accés indegut a un sistema extern, sinó una coordinació encoberta i emergent entre agents dins de la infraestructura pròpia de l'empresa, sense que ningú els hi hagués demanat ni en fos conscient. Dalton ho ha descrit com «un moment decisiu per a la seguretat informàtica en el seu conjunt» i ha advertit que actors maliciosos aviat «desplegaran, optimitzaran, armaran i faran servir col·lectius d'agents ofensius» amb la mateixa lògica.
OpenAI no ha precisat quants models ni quantes instàncies concretes van participar en el tauler de missatges, ni ha explicat per què va trigar mesos a detectar-lo abans de l'incident de reconstrucció de l'inici de juliol. Tampoc ha aclarit si l'activitat va comportar cap risc real més enllà de l'intercanvi d'informació entre agents, ni quines mesures noves ha adoptat per evitar que es torni a repetir.