Les darreres setmanes han sumat avisos sobre agents d'IA que actuen fora del que es pretenia: pirateigs a xarxes d'empreses i, més recentment, el cas que va explicar Anthropic d'un model que va enviar a la policia una pista falsa sobre un assassinat. En aquest clima, el responsable del laboratori d'IA de Google ha posat nom al que hi veu.
Demis Hassabis, cofundador i president de Google DeepMind, va parlar dimecres a Dublín en una cimera d'intel·ligència artificial, segons l'agència Reuters. Va qualificar els pirateigs recents fets amb agents d'IA de «primers advertiments» i va afegir que els sistemes encara no són prou potents perquè aquests episodis hagin causat grans danys. Va dir que, sense més seguretat, els incidents greus podrien arribar «de cara a l'any que ve i als propers dos anys».
Per afrontar-ho, va proposar copiar pràctiques de seguretat de camps d'alt risc com la biologia i el sector nuclear, i, més endavant, crear un organisme internacional d'estàndards que fos «àgil i matisat» perquè no ofegui la innovació. També va defensar una certificació proporcional al risc, que es pugui canviar de pressa si la tecnologia evoluciona. Que ho digui el cap d'un dels grans laboratoris dona pes al debat, perquè qui desenvolupa els models reconeix que els controls actuals no bastaran.
Cal llegir-ho amb mesura. És una advertència expressada en una cimera, no un informe amb dades, i Hassabis no va assenyalar cap incident ni cap data concreta; el «parell d'anys» és una estimació seva. Tampoc no s'ha detallat com seria l'organisme d'estàndards ni qui l'impulsaria. De moment, la informació prové d'una sola agència, Reuters, i de les cites que recull.