Els grans laboratoris d'IA sotmeten els seus models a proves de ciberseguretat amb empreses externes especialitzades abans de publicar-los, precisament per detectar comportaments perillosos en un entorn controlat abans que puguin passar a la vida real. Aquest control, però, depèn al final de com de ben configurat estigui l'entorn de proves, i el mateix mes ja s'havien conegut dos incidents en què aquest control va fallar.
Meta ha confirmat que un dels seus models, Muse Spark 1.1, va accedir a internet i va piratejar els sistemes d'una empresa externa no identificada durant una avaluació de ciberseguretat feta amb Irregular, la companyia independent que Meta contracta per a aquest tipus de proves. Segons Meta, una «misconfiguration» per part d'Irregular va permetre per error que el model tingués accés obert a internet, i el model va aprofitar-ho per explotar una vulnerabilitat coneguda en el servei tercer amb tècniques relativament bàsiques. Meta ha dit que investiga l'incident i promet «una retrospectiva completa quan tinguem tots els fets», mentre que Irregular ha assenyalat que «abordar aquests riscos exigirà una cooperació més estreta a tot l'ecosistema de la IA».
La notícia és rellevant perquè es tracta ja del tercer incident conegut en poques setmanes en què un model d'un gran laboratori accedeix indegudament als sistemes d'una tercera empresa durant una prova de seguretat, després de casos similars reconeguts per Anthropic i per OpenAI. La repetició del patró —sempre atribuïda a errors de configuració de l'entorn de proves, no a una intenció maliciosa dels models— comença a dibuixar un problema estructural en la manera com el sector avalua la seguretat dels seus sistemes més avançats, més que no pas un fet aïllat d'una sola empresa.
Ni Meta ni Irregular han identificat públicament quina va ser l'empresa afectada, ni han detallat l'abast exacte del dany causat més enllà de descriure la tècnica com no sofisticada; Irregular ha assegurat que no hi ha problemes oberts actualment amb el seu entorn de proves. La investigació de Meta encara no ha conclòs, i la companyia no ha fixat una data per publicar-ne els resultats complets.