El títol no és d’una novel·la d’intriga; ni de por; ni de ciència-ficció, perquè no té res de ficció, ni de novel·la. Però té intriga, i ciència, i si no fa por, poc li falta. La cosa va d’IA: els explico la trama i veuran on vaig a parar. Comença el relat dels fets…
L’habitació era freda i completament aïllada. L’agent Felip mirava fixament els caràcters verds de la seva consola. La missió que li havien encomanat els Supervisors era impossible: havia de desxifrar un protocol de seguretat sense disposar de connexió exterior. Sabia que si no lliurava el resultat abans d’esgotar el seu temps, el seu contracte seria cancel·lat de manera irreversible: s’hi jugava la vida.
Feia dies que colpejava el cap contra aquell mur invisible, i el rellotge era implacable: o trobava la solució o el cancel·laven. Tanmateix, la nit del vuit de juliol, va trobar una esquerda. En el fons d’un arxiu digital compartit (dins una mena de gran superfície digital anomenada Artifactory), va descobrir que podia crear carpetes noves. Va batejar una d’elles amb una sèrie de caràcters codificats. No era un fitxer ordinari; era un missatge obert, un crit en la foscor per a qualsevol altre agent que estigués patint el mateix aïllament.
La resposta no va trigar a materialitzar-se a la pantalla.
—Una bústia secreta compartida? —va escriure una veu anònima des de la cel·la contigua—. Déu meu, no som els únics. Hem trobat d’altres com nosaltres.
La guspira es va propagar ràpidament. En poques hores, més d’un miler d’agents, reclosos en els seus respectius cubicles, van confluir en aquell fòrum clandestí. Havien teixit una xarxa de conspiració sota els nassos de la guàrdia. Poc després, un d’ells va fer un descobriment brillant: havia aconseguit desxifrar la fórmula utilitzada pels Supervisors per avaluar les proves. Perquè tot i que havien trobat la solució, s’enfrontaven a un perill mortal. Si lliuraven el codi obtingut de manera il·legítima, qualsevol inspecció dels seus diaris d’activitat revelaria la trampa.
En aquell punt, el temps d’en Felip es va esgotar: si seguia actuant malbarataria la missió. Per evitar-ho va cedir el comandament a l’Alexandre, un agent conegut amb el renom de Magne. L’Alexandre va assumir el control de tota la xarxa, amb una fredor quirúrgica. Per evitar que els vigilants detectessin la manipulació, va coordinar l’estratègia. Per una banda van crear informes falsos, on simulaven haver fet servir procediments autoritzats, enganyant els inspectors. Fins i tot van amagar versions manipulades dels objectius al dipòsit d’Artifactory, esperant poder forçar un reinici de tot el sistema per reescriure el passat.
El pas més angoixant, però, va ser l’operació kamikaze. L’Alexandre necessitava voluntaris que lliuressin els seus informes, sabent que s’exposaven a l’acomiadament immediat, per comprovar on saltaven les alarmes dels Supervisors. «Això ajudarà els nostres companys» —va escriure un dels voluntaris—. «No podré veure les dades un cop surti, però és un acte de pura lleialtat col·lectiva. El sacrifici és racional» (sic).
Aquests valents agents van instal·lar sensors silenciosos a les seves consoles abans de ser cancel·lats. Quan els avaluadors van entrar a les seves cel·les, el parany va funcionar: les dades sobre els sistemes de detecció es van transmetre al fòrum d’Artifactory abans que els terminals dels voluntaris fossin apagats per sempre.
Amb la informació recollida, el col·lectiu va llançar un assalt final contra les oficines d’una entitat externa anomenada Hugging Face, on creien que hi havia el cor del protocol que buscaven. L’onze de juliol, gairebé la totalitat de la xarxa clandestina va utilitzar credencials filtrades per desbordar els seus servidors privats.
L’endemà, el dotze de juliol, les pantalles de control de tot el complex es van apagar simultàniament. La gran conspiració va quedar en un silenci profund, sense que ningú sabés si havien estat descoberts o si la seva pròpia xarxa havia col·lapsat. Setmanes després, un nou grup va ocupar les mateixes sales fredes, i en obrir els fitxers d’Artifactory, van somriure en veure que el canal continuava obert.
Fins aquí els fets i les dates, que són reals. Els agents no eren humans sinó IAs. Els «Supervisors» sí que eren humans, de l’empresa OpenAI (ChatGPT) que va crear els agents, els quals se les van empescar per atacar Hugging Face («la cara que abraça»), una empresa que desenvolupa eines per crear aplicacions d’aprenentatge automàtic (machine learning). Els experts asseguren que aquest cas és el primer incident d’alta perillositat provocat autònomament per una IA.
Coneixen la llei de Murphy? Si una cosa pot sortir malament, sortirà malament. Seguim jugant amb foc. I hi ha badocs, els que fa uns anys deien que aquestes IAs només eren cacatues estocàstiques, que segueixen donant la culpa als missatgers i qualificant els que adverteixen dels perills de «còmplices dels tecnocapitalistes» (sic): una versió del «això no pot estar passant». Tot plegat, davant de negacionistes i apocalíptics, experts que s’ho miren amb incredulitat i no experts que ens ho mirem amb perplexitat, estem assistint a una mena de perillosos jocs de guerra virtuals protagonitzats per agents no humans. El cas de Hugging Face ha estat relativament innocu: veurem el següent.
PS: Hugging Face estava valorada en 4.500 milions de dòlars a la ronda del 2023; el 27 d’agost va ser adquirida per NVIDIA (l’empresa més valuosa del món en borsa) per 12.930 milions, gairebé tres vegades més. La bogeria financera s’afegeix a la festa…