Comencem-nos a acostumar a aquest terme: Auto-Millora Recursiva (RSI en anglès). Imagineu que feu un trajecte diari en bicicleta i el primer dia heu anat un 5% més ràpid que la darrera vegada: no està malament. Si aneu millorant un 5% cada dia, al cap d’una setmana anireu un 50% més ràpid; al cap d’un mes, cinc vegades més ràpid; al cap de mig any, estaríeu anant 3.000 vegades més ràpid... més que qualsevol avió que mai s’hagi construït! Si/quan les IAs assoleixin aquesta capacitat —recordem que són bàsicament ens que aprenen de forma recursiva, és a dir, sobre tot allò après— estarem abocats a un creixement exponencial com el descrit. Hi ha indicis que el procés ja ha començat. Els negacionistes, en variades versions, es resisteixen a admetre-ho, o fan veure que no passa res; els apocalíptics, també amb visions no sempre coincidents, porten molt de temps advertint dels perills d’una IA general (AGI), no diguem d’una super-intel·ligència (ASI), que entraria en RSI.
El món està immers, i no únicament per la IA —la tecnologia més ràpidament disruptiva de tota la història— en el que el futurista Alvin Toffler va avançar: el Xoc del Futur. En un llibre amb aquest títol, publicat l’any 1970 (molt abans del PC, d’Internet i de l’iPhone!) Toffler sostenia que el ritme accelerat de canvis tecnològics i socials acabaria superant la capacitat d’adaptació psicològica de les persones, provocant un estat de desorientació, estrès i fatiga decisòria que l’autor batejava com a «xoc del futur». Seria, per analogia, com quan un avió supera la velocitat del so: es produeix una acumulació d’ones de so al darrere, una ona de xoc que s’escolta com una explosió pels que veuen passar l’aparell.
Els humans ens hem acostumat a encaixar canvis tecnològics i/o socials en escales de generacions, de dècades i fins i tot d’anys: sempre ho hem anat fent, amb evolucions més o menys ràpides i/o amb revolucions que sacsegen les societats però que s’acaben digerint. Però tot requereix un mínim: no es poden canviar radicalment comportaments individuals i socials en escales de temps massa curtes. Les societats nòmades es van convertir en sedentàries en processos que van tardar mil·lennis; la industrialització va tardar segles; ens hem anat digitalitzant en dècades. Si els canvis radicals es produeixen en escales de mesos, o fins i tot de setmanes, el teixit social, i també els individus, es poden veure sotmesos a un estrès que pot tensar les costures d’aquest teixit i produir reaccions socials imprevistes i imprevisibles. Per primera vegada tenim una tecnologia que pot millorar-se sense aturador: el canvi exponencial. Què pot anar malament?
La IA impacta tots els àmbits de l’activitat humana. I, en menys d’una dècada, amb el desplegament de la IA generativa, ha passat de ser una tecnologia de futur a constituir un dels pilars bàsics de l’economia mundial, objecte d’atenció principal de polítics, acadèmics, educadors, professionals de tota mena i del públic en general. ChatGPT va arribar fa menys de quatre anys i des d’aleshores els grans models de llenguatge (LLMs) han evolucionat fins a convertir-se en eina de treball, d’aprenentatge, d’oci, de negoci i assistents personals d’una gran part de la població, si més no en el món desenvolupat. Les immenses inversions en diners, talent i recursos materials no tenen precedents en la història, i no passa un mes sense que les prestacions d’aquestes IAs no donin un salt endavant. Ningú s’atreveix a fer prediccions fiables, sobre aquestes ni sobre els seus efectes econòmics i socials, més enllà d’uns pocs mesos. Què pot anar malament?
El nostre paisà, el general Joan Prim, deia allò de «catalans no correu tant que podríeu caure». Això avui s’aplica a tota la nostra espècie. Hi ha hagut poques tecnologies tan poderoses i amb un desplegament tan ràpid: potser la que ve més al cas, per fer una analogia, és l’energia nuclear. El 1938 es descobria la fissió nuclear, que s’explicava científicament el 1939: el 1942 s’aconseguia la primera reacció nuclear controlada, s’iniciava el projecte Manhattan. El 1945 es detonaven les bombes atòmiques. No era fins al 1951 quan es produïa electricitat a partir de l’energia nuclear. S’imaginen crear un reactor nuclear per produir energia, o pitjor, construir una bomba, sense entendre quin és el procés físic que la produeix? Quelcom anàleg s’està produint amb la IA generativa: estem creant ens (IAs) cada vegada més sofisticats i amb més capacitat d’acció, sense entendre bé el seu funcionament intern ni la manera com podem controlar-los. Un reactor sense botó d’aturada. Què pot anar malament?
S’han començat a produir reaccions adverses contra aquesta tecnologia en sectors socials afectats pel seu impacte econòmic, laboral o mediambiental. Sense necessitat d’arribar a AGIs ni ASIs desbocades, ja són tècnicament possibles esdeveniments seriosament disruptius que podrien ser ocasionats per malfactors utilitzant models d’IAs com els actuals: no entrarem en detalls. Seria bo que no fos necessari un «crack del 29», un «Txernòbil» o un «COVID» de la IA que haguéssim de lamentar, i que posés una data (negra) per a la història d’una revolució que, per altra banda, és imparable i cridada a produir grans beneficis per a la humanitat. Cada vegada es fa més urgent un cop de timó, universalment acordat i amb ampla participació social: un «projecte Manhattan» sense secretismes ni objectius militars, que doti aquesta revolució de mecanismes de control. Ens hi juguem el futur: el de l’espècie.