iaintel·ligènciaartificial.cat← Portada
Secció · Riscos, seguretat i drets

CIBERSEGURETAT · 5 MIN

Google detecta per primera vegada uns atacants que fan servir la IA per trobar i explotar forats informàtics sense cap persona al darrere

El sistema, que el seu operador anomenava «exploit_agent», comparava les versions dels programes abans i després de cada pegat, en deduïa l'error i escrivia sol el codi per aprofitar-lo contra webs franceses.

Il·lustració generada amb IA: Google detecta per primera vegada uns atacants que fan servir la IA per trobar i explotar forats informàtics sense cap persona al darrere
Il·lustració generada amb IA
Escolta:

Fins ara, els informes sobre l'ús de la IA en atacs informàtics coincidien en un punt: els models acceleraven algunes fases de la feina, però sempre calia una persona que els guiés o que n'arreglés els errors. Les darreres setmanes ja s'han vist eines obertes com ARTEX, que automatitzen bona part d'una intrusió, i aquest diari n'ha explicat diversos casos.

El grup d'intel·ligència d'amenaces de Google (GTIG), juntament amb Mandiant, diu ara que ha trobat el primer cas en què uns atacants van fer servir models de llenguatge per descobrir i explotar vulnerabilitats sense cap intervenció humana. Ho van veure en un servidor de proves obert a internet on hi havia un sistema de diversos agents, batejat «exploit_agent», connectat a models comercials i a models que funcionaven en local. El sistema comparava el codi d'aplicacions web populars abans i després que se'n publiqués un pegat, deduïa d'aquesta diferència on era l'error, redactava el codi per aprofitar-lo i l'executava. També hi havia programes per a la feina posterior: explorar la xarxa interna de la víctima, provar contrasenyes de manera massiva i deixar-hi portes del darrere. Segons les dades de Google, l'operador s'havia centrat en webs franceses de mitjans de comunicació, d'entreteniment i d'educació. Els comentaris en rus del fitxer de configuració apunten a qui parla aquesta llengua, però Google no ho atribueix a cap grup concret.

L'informe descriu una tendència més àmplia: els atacants fan servir equips d'agents especialitzats que coordinen les fases d'una intrusió a velocitat de màquina, roben credencials de serveis d'IA per revendre'n l'accés (amb càrrecs fraudulents de més de 100.000 dòlars en un sol dia) i fan servir models per crear perfils falsos en campanyes de desinformació. Per a les empreses, la conseqüència pràctica és que el temps entre que surt un pegat i que algú n'aprofita la falla s'escurça: Google recomana tractar cada actualització de seguretat com un avís que els atacants també llegeixen i instal·lar-la com més aviat millor.

L'informe també marca els límits d'aquests sistemes: generen informació falsa, troben vulnerabilitats que no existeixen i, com que treballen tan de pressa, deixen moltes més petjades que un atacant humà, cosa que ajuda a detectar-los. Google no diu quantes víctimes hi va haver ni quins danys concrets va causar «exploit_agent», i les dades que dona són les de la seva pròpia telemetria, sense verificació independent.

Mateixa secció

Veure tota la secció →