Fins ara, els agents autònoms d'IA capaços d'atacar sistemes informàtics pel seu compte eren sobretot un escenari de laboratori documentat per empreses com Anthropic en els seus propis informes de mal ús. Aquest dimecres, l'Agència Espanyola de Protecció de Dades (AEPD) ha confirmat el primer cas conegut a l'Estat d'un ciberatac executat de manera autònoma per un agent d'aquest tipus.
Segons ha explicat Francisco Pérez Bes, director adjunt de l'AEPD, en un article al bloc de l'organisme, l'agent d'IA va aconseguir iniciar sessió en una aplicació i, a partir d'aquí, va buscar vulnerabilitats «de forma autònoma» sense intervenció humana directa en cada pas. Un cop dins, va modificar dades personals i va accedir a factures de l'entitat afectada. L'AEPD no ha revelat ni l'empresa atacada ni quin model de llenguatge hi havia darrere de l'agent, i precisa que la informació prové de la notificació de bretxa de seguretat que la mateixa organització afectada va presentar a l'agència, tal com exigeix la normativa de protecció de dades.
El cas és rellevant perquè trasllada a l'àmbit legal i regulador espanyol un risc que fins ara es documentava sobretot des dels mateixos laboratoris d'IA o des d'informes de ciberseguretat internacionals: agents autònoms capaços d'encadenar accions d'atac —cercar, explotar, modificar— sense que ningú els vagi guiant pas a pas. Per a l'AEPD, el cas obre la porta a exigir a les empreses noves mesures de protecció pensades específicament per a atacs generats o executats amb IA, no només per als atacs humans tradicionals.
L'AEPD no ha fet públics detalls tècnics sobre com es va detectar l'atac, quant de temps va durar ni l'abast exacte de les dades compromeses, i en no identificar ni l'empresa ni el model d'IA fet servir, és impossible verificar de manera independent la sofisticació real de l'operació. Tampoc queda clar si es tracta d'un cas aïllat o del primer d'una tendència que es repetirà amb més freqüència a mesura que els agents d'IA es fan més accessibles.