Perdonin un altre cop el joc de paraules del títol; ja saben que hi tinc tendència, i avui a més té justificació. Si els preguntés on esperen trobar el document més rigorós escrit fins ara sobre com hauríem de governar la IA, segurament em respondrien que en un laboratori de Califòrnia, en el manifest d’algun tecnocapitalista o en una conferència de desenvolupadors i activistes. Pocs dirien que en un text signat per un papa. I tanmateix, la Magnifica Humanitas de Lleó XIV, de la qual ja els he parlat en aquesta tribuna, va guanyant pes a mesura que passen les setmanes i els fets li donen la raó.
El més brillant de l’encíclica no és el que demana, sinó com ho construeix. No comença parlant de xips, ni de paràmetres, ni de regulació, sinó amb dues històries bíbliques que fa servir com a models oposats de desenvolupament tecnològic. La primera és la famosa Torre de Babel. La humanitat decideix construir cap amunt, el més amunt possible, sense cap fonament moral, per la pura embriaguesa d’arribar-hi. El resultat és el col·lapse i la confusió de les llengües: de sobte ningú no entén ningú. No em negaran la ironia que aquesta sigui, precisament, la paràbola escollida per parlar d’unes màquines que dominen totes les llengües.
Babel és el que Audrey Tang, l’antiga ministra digital de Taiwan, va batejar com la cursa vertical: l’obsessió per construir models cada vegada més grans, més ràpids i més capaços, acumulant poder de càlcul i capital, corrent per arribar primer a la superintel·ligència. És la cursa que els descrivia fa unes setmanes amb els cinc estadis de Sam Altman i amb l’automillora recursiva: exponencial, sense frens i, sobretot, sense cap supervisió externa. L’encíclica no diu que construir cap amunt sigui dolent; l’enginyeria fa mil·lennis que ho fa i gràcies a això tenim medicina i satèl·lits. Diu quelcom més incòmode: que en aquesta cursa les baranes i els frens es consideren llast que fa perdre velocitat. Estem construint un tren de mil per hora i hem decidit que dissenyar-ne els frens ja és cosa d’un altre departament.
La segona història és molt menys coneguda i és, al meu entendre, la troballa del document: el llibre de Nehemies. Nehemies torna a una Jerusalem devastada i ha de reconstruir-ne les muralles. No hi arriba amb un plànol tancat ni imposa res des de dalt: assigna un tram de muralla a cada família i a cada gremi, escolta què els preocupa i organitza l’esforç col·lectivament. Això és la cursa horitzontal: codi obert, auditoria pública, models que universitats, entitats i ciutadans puguin obrir, entendre i adaptar als problemes de casa seva. És un camí infinitament més lent, perquè implica debat, negociació i tota la insuportable complexitat de ser humans. L’encíclica sosté que la justícia només pot sortir d’aquesta lentitud aparent.
Fins aquí el diagnòstic, que comparteixo. El que ha canviat, i és el motiu pel qual hi torno avui, és el context. Fa poques setmanes van sonar les alarmes, i no les van fer sonar els filòsofs, ni els papes, ni els columnistes: les van fer sonar els mateixos laboratoris. Ja els vaig explicar el cas de la cara que abraça i la meva sensació d’acceleració. Doncs bé: per primera vegada des que va començar, la cursa vertical té un motiu propi, egoista i perfectament racional per seure a una taula. No per generositat, sinó per supervivència. Va passar amb l’energia nuclear: els que van fabricar la bomba van ser després els qui van empènyer amb més força els tractats de control. Els bombers i els piròmans eren, sovint, els mateixos senyors.
I aquí és on la Magnifica Humanitas deixa de ser un text espiritual per convertir-se en una peça política. Perquè un gran acord mundial —desmuntar monopolis, prohibir les armes letals autònomes, retornar als ciutadans la propietat de les seves dades, establir mecanismes de verificació— no el pot convocar cap dels que hi juguen. Els estats regulen fronteres i la IA viu al núvol; i els Estats Units i la Xina no són àrbitres, sinó jugadors. Les empreses tenen un conseller delegat que ret comptes als accionistes, i prou. Fa falta una altra cosa: el que en podríem dir padrins, sponsors d’autoritat moral. Institucions i persones sense exèrcit, sense accions i sense res a guanyar en la cursa, capaces de portar tothom a la mateixa taula i, sobretot, de proporcionar el vocabulari compartit que ara no existeix.
El Papa n’és un de manual, i ho ha demostrat amb l’encíclica i amb la seva crida al desarmament de la IA. Però no n’hi ha prou amb un, ni pot ser només un: calen científics, premis Nobel i medalles Fields, veus com la de Bill Gates, i sobretot una societat civil organitzada que no es limiti a mirar. El document ho diu magníficament al paràgraf 241: no podem ser comentaristes passius del col·lapse; cal entrar a les obres de construcció de la història. I demana dues coses que el món corporatiu ha decidit que són incompatibles: escolta activa i coratge. Un Papa matemàtic, americà com els corredors de la cursa, curtit en la pobresa del tercer món, que parla poc però molt bé des de la credibilitat de la seva fe, sembla talment un regal del cel en aquesta hora crítica: menys Babels i més Nehemies que construeixin, en vertical i en horitzontal, en benefici de la magnífica humanitat.