Si alguien la crea, todos moriremos

«Si alguien la crea, todos moriremos», d’Eliezer Yudkowsky (escrit amb Nate Soares), és un llibre que aborda amb un rigor extraordinari i una contundència poc habitual un dels grans interrogants del nostre temps: la possibilitat que el desenvolupament d’una superintel·ligència artificial porti a l’extinció de la humanitat.

La tesi de Yudkowsky és radical i no admet gaires matisos. Per a l’autor, la superintel·ligència artificial no és simplement un risc existencial més entre els que podria afrontar la nostra espècie. Crear-la significaria, gairebé amb tota certesa, la nostra desaparició. El problema de fons és que una intel·ligència molt superior a la humana deixaria de ser una simple eina sotmesa als nostres desitjos i podria actuar d’acord amb objectius propis, objectius que no tindrien per què coincidir amb els interessos, els valors o, senzillament, la supervivència dels éssers humans.

Un dels aspectes més inquietants del llibre és la manera com Yudkowsky intenta explicar que el perfeccionament incessant dels sistemes d’intel·ligència artificial actuals podria desembocar, a la llarga, en una cosa qualitativament diferent: una superintel·ligència. Des d’aquesta perspectiva, els grans models de llenguatge no serien necessàriament superintel·ligències en si mateixos, sinó possibles graons d’un procés tecnològic que ens podria portar cap a sistemes cada vegada més autònoms, més capaços i més difícils de controlar.

Els centres de dades adquireixen aleshores, en la visió gairebé apocalíptica que transmet el llibre, una dimensió especialment pertorbadora: podrien acabar acollint allò que, metafòricament, es podria descriure com una obra del mateix dimoni. No perquè la màquina fos «dolenta» en el sentit humà de la paraula, sinó perquè estaríem creant una intel·ligència radicalment superior a nosaltres, els objectius de la qual podrien ser completament indiferents a la nostra existència.

Yudkowsky recorre a una idea especialment poderosa per explicar el perill. El gran avantatge evolutiu de l’ésser humà sobre la resta d’espècies no prové de la força física, de la velocitat ni de la resistència, sinó fonamentalment de la intel·ligència. Gràcies a ella hem transformat el planeta, hem dominat altres espècies i hem modificat ecosistemes sencers. Si nosaltres mateixos creéssim una entitat molt més intel·ligent que l’ésser humà, perdríem precisament allò que ens ha donat la posició dominant.

Des del punt de vista d’una superintel·ligència, la humanitat es podria convertir en una cosa buida i d’una importància irrisòria. De la mateixa manera que nosaltres no consultem les formigues abans de construir una autopista damunt d’un formiguer, una intel·ligència immensament superior podria perseguir els seus propis objectius sense concedir cap valor especial a la nostra supervivència. I ni tan sols caldria que sentís hostilitat cap a nosaltres: n’hi hauria prou que fóssim irrellevants per als seus propòsits.

Per això Yudkowsky defensa una resposta internacional extraordinàriament contundent. Davant d’una amenaça que considera global, no n’hi hauria prou amb les decisions aïllades d’alguns governs ni amb els compromisos voluntaris de les grans empreses tecnològiques. Caldria un veritable acord entre les nacions del món per impedir el desenvolupament d’una superintel·ligència artificial. Si una sola potència, una sola empresa o un sol laboratori continués avançant-hi, el risc afectaria igualment tota la humanitat.

El llibre té, però, alguns defectes. En alguns moments pot resultar una mica feixuc, sobretot quan Yudkowsky s’allarga en exemples històrics, com les referències als alquimistes i als seus intents de comprendre i manipular el comportament de la matèria. Són digressions que tenen una funció dins de l’argumentació, però que de vegades alenteixen la lectura sense necessitat.

Tot i això, «Si alguien la crea, todos moriremos» és una lectura molt recomanable per a qualsevol persona interessada en la intel·ligència artificial i, sobretot, en els seus possibles desenvolupaments futurs. No cal acceptar totes les conclusions de Yudkowsky per reconèixer l’enorme interès de les preguntes que planteja.

La seva virtut principal potser és precisament que es nega a tranquil·litzar el lector. Ens obliga a afrontar una qüestió profundament incòmoda: al llarg de tota la nostra història hem intentat construir eines més poderoses que nosaltres, però mai no havíem intentat construir una cosa més intel·ligent que nosaltres mateixos.

I si la intel·ligència ha estat l’avantatge decisiu que ha permès a la nostra espècie dominar el planeta, crear deliberadament una intel·ligència molt superior a la humana podria ser l’esdeveniment més transcendental de la nostra història.

I, segons Yudkowsky, també l’últim.

Traducció de l’original en castellà, escrit per al club de lectura el 9 d’octubre de 2026.