L’any 1964 Umberto Eco va publicar Apocalittici e integrati, un assaig sobre la cultura de masses que dividia els intel·lectuals en dos bàndols. Els apocalíptics hi veien la decadència de la civilització; els integrats l’abraçaven sense fer-se gaires preguntes. Per a la meva anàlisi d’avui em permeto manllevar-li el títol, encara que la relació amb el que deia Eco sigui remota. De fet, com veuran, els faig jugar en camps gairebé oposats.
Diuen que els peixos són els últims a descobrir l’aigua. Amb la Revolució IA ens passa una cosa semblant: hi estem tan immersos que ens costa veure-la sencera. Que és la revolució tecnosocial més gran de la història és una afirmació que cada vegada menys gent discuteix. Però el procés no espera que ens posem d’acord sobre com anomenar-lo: segueix el seu curs i l’AI-gua segueix pujant. Mentrestant, tots els actors s’han mogut: els tecnocapitalistes que la creen (tecnooligarques, com ja els anomenem molts), els governs, els experts i la societat civil prenen posicions, sovint sense saber-ho.
Les grans revolucions acaben dividint la societat en bàndols. La Revolució Francesa, segurament la revolució política de més impacte en el món actual, ens en va deixar fins i tot el vocabulari. L’estiu de 1789, a l’Assemblea Nacional, es debatia si el rei havia de tenir dret de veto. Els partidaris es van asseure a la dreta del president i els contraris a l’esquerra. D’aquella manera d’ocupar uns bancs en va sortir la geografia política que encara fem servir.
La Revolució IA també està generant els seus bàndols, amb una novetat important: la línia divisòria no passa per com és el món d’avui, sinó per l’impacte que la IA tindrà en el món de demà. I els bàndols (encara) no són homogenis ni organitzats. Cadascun agrupa dues tribus que, en molts aspectes, s’odien cordialment. Jo els anomenaria, amb llicència d’Eco, Apocalíptics i Integrats.
Els Apocalíptics es prenen molt seriosament una tecnologia que consideren revolucionària i inevitable. Recordem que apocalipsi vol dir revelació: els apocalíptics esperen que es reveli quelcom de magnitud històrica. On no coincideixen és en el signe d’aquesta revelació.
D’una banda hi ha els catastrofistes. Eliezer Yudkowsky fa anys que adverteix que, si algú construeix una superintel·ligència, tots hi morirem. Geoffrey Hinton, premi Nobel i pare de les xarxes neuronals, va deixar Google per poder parlar lliurement dels riscos. Yoshua Bengio, l’altre gran pioner preocupat pel possible descontrol de la IA, coordina informes internacionals sobre la seva seguretat.
De l’altra banda hi ha els utòpics. Sam Altman parla d’una singularitat «suau». Dario Amodei, d’Anthropic, imagina un segle de progrés científic comprimit en una dècada. Marc Andreessen va escriure un manifest tecnooptimista que és gairebé un acte de fe, i Ray Kurzweil fa trenta anys que anuncia la Singularitat.
Uns veuen l’infern i els altres el paradís, però tots coincideixen en una cosa: això és molt gros. Uns adverteixen dels perills; altres volen aprofitar les oportunitats.
Els Integrats comparteixen una premissa contrària: la IA es pot integrar en el curs normal de la història. És una tecnologia potent, sí, però «normal», com en diuen Arvind Narayanan i Sayash Kapoor, amb efectes graduals, regulables i digeribles, com l’electricitat o Internet. Aquí també hi ha dues tribus.
La primera és la dels escèptics. Gary Marcus fa temps que anuncia que els models de llenguatge han tocat sostre. Emily Bender va popularitzar allò de les «cacatues estocàstiques». I Yann LeCun, un dels pares del deep learning, és optimista amb la IA però considera una via morta que els models actuals portin a la intel·ligència humana, i qualifica de ridícules les pors apocalíptiques.
La segona tribu és la dels crítics, que no neguen la potència de la tecnologia però s’hi oposen pel que ja fa avui. Timnit Gebru i Kate Crawford denuncien biaixos, extractivisme de dades i de recursos, treball precari i consum energètic. Per a elles, el discurs apocalíptic, tant el catastrofista com l’utòpic, és una cortina de fum: parlar de la fi del món serveix per no parlar dels danys d’avui, i de pas infla el valor de la mercaderia. D’aquí ve que els qui alertem dels perills siguem, sovint, qualificats de «còmplices dels tecnocapitalistes».
Seria injust no reconèixer que els integrats fan preguntes necessàries. Els danys presents són reals, i la indústria ha demostrat sobradament que sap convertir la por en màrqueting. Però el temps juga en contra seva. Ho hem vist amb les matemàtiques, on fa tres anys la IA «no sabia ni sumar» i avui refuta conjectures centenàries. Ho hem vist amb el cas de la cara que abraça, que alguns es van afanyar a explicar com una operació de màrqueting. Cada mes que passa hi ha menys integrats, i molts no canvien d’opinió per convicció, sinó per pura evidència.
Jo em declaro apocalíptic, ho reconec, però en el sentit etimològic: crec que estem davant d’una revelació d’abast històric. No soc ni catastrofista ni utòpic, perquè el signe d’aquesta revelació no està escrit. Dependrà del que fem. I aquí torno a la Revolució Francesa. A la Convenció no hi havia només girondins i jacobins: hi havia la Plana, el gruix de diputats que no s’asseien ni a dalt ni a baix i que, a l’hora de la veritat, decidien cap on es decantava la revolució. La gran majoria de la societat civil és avui aquesta Plana: silenciosa, perplexa i desorganitzada. Si la Plana no pren la paraula, la revolució la decidiran uns altres.