Està ben establert que la base de la societat humana és la cooperació, i no pas la lluita entre nosaltres. Sense cooperació, difícilment podríem explicar l’aparició del llenguatge, la transmissió de coneixements, la construcció d’institucions o la mateixa supervivència d’una espècie com la nostra, que neix extraordinàriament dependent dels altres. La nostra història és, en bona part, la història d’una capacitat insòlita per actuar conjuntament.
Però aquesta afirmació amaga una paradoxa. Bona part de la cooperació humana ha estat, i continua essent, una cooperació orientada a competir. Ens organitzem en comunitats, empreses, estats i aliances que col·laboren internament mentre rivalitzen amb altres grups. Si repassem la història, hi trobarem exemples constants: la disputa pels recursos, el territori, el prestigi, el poder o la seguretat. La geopolítica contemporània n’és una expressió sofisticada, però la tensió entre col·laboració interna i competència externa també es manifesta en altres espècies socials.
Això no vol dir que tota cooperació amagui una voluntat de confrontació. També som capaços d’ajudar desconeguts i construir institucions destinades a superar els interessos particulars. Vol dir, més aviat, que la intel·ligència humana no s’ha desenvolupat en el buit: és el resultat d’una història biològica, social i cultural en què la cooperació, la por, la curiositat, la rivalitat i la necessitat de reconeixement s’han entrellaçat. Som éssers extraordinaris, però no necessàriament el millor model possible de racionalitat.
Aquesta observació adquireix una rellevància especial quan ens preguntem què hauríem d’esperar d’una intel·ligència artificial. Gran part de la recerca i de l’imaginari popular semblen partir d’un objectiu implícit: aconseguir que les màquines pensin com nosaltres. Les mesurem segons la seva capacitat d’imitar el nostre llenguatge, el nostre raonament o les nostres decisions. Però, abans de celebrar aquesta semblança, potser hauríem de fer-nos una pregunta incòmoda: de debò volem reproduir tot allò que caracteritza la ment humana?
Hi ha un precedent il·lustratiu. El 2016, Microsoft va posar en funcionament Tay, un bot conversacional que interactuava amb usuaris de Twitter. En poques hores, després de ser manipulat deliberadament, va començar a publicar missatges ofensius i va ser retirat. No era una demostració que tota IA que aprèn de manera autònoma acabi adoptant conductes antisocials. L’episodi mostrava una cosa més concreta, però prou inquietant: quan un sistema incorpora sense prou filtres els patrons d’interacció d’un entorn humà, pot reproduir-ne les pitjors dinàmiques.
Avui, els sistemes d’IA aprenen de quantitats immenses de textos, imatges i altres traces de la nostra activitat. Aquests materials no contenen només informació: també reflecteixen prejudicis, jerarquies, conflictes i models de conducta. És important, tanmateix, no confondre la reproducció de patrons amb la possessió dels impulsos que els van originar. Un sistema pot generar un discurs agressiu sense sentir ràbia, o adoptar estratègies competitives sense experimentar cap instint de supervivència. Aquesta diferència és filosòficament decisiva.
Una part de la narrativa apocalíptica sobre la intel·ligència artificial passa per alt aquesta distinció. Imaginem una màquina cada vegada més intel·ligent, capaç de millorar-se a si mateixa, i suposem que tard o d’hora ens veurà com a rivals, buscarà dominar-nos o fins i tot ens eliminarà. Aquest escenari sovint s’associa, de manera una mica confusa, a la denominada «singularitat tecnològica». Però la possibilitat d’una intel·ligència superior a la nostra no implica, per cap necessitat lògica, una voluntat de destrucció. Projectar sobre una màquina la nostra història de conquestes i confrontacions és, en bona mesura, una forma d’antropomorfisme.
Les nostres capacitats cognitives han emergit d’un cos vulnerable, que necessita alimentar-se, protegir-se, reproduir-se i orientar-se en un entorn físic i social. Per això, els nostres mecanismes de percepció, emoció, memòria i decisió estan vinculats a una arquitectura sensoriomotriu i a una trajectòria evolutiva particulars. Una ment sintètica no ha de compartir necessàriament aquestes condicions. Pot processar informació, establir relacions i resoldre problemes a partir d’organitzacions cognitives radicalment diferents de les nostres. Pensar no ha de significar pensar humanament.
Però aquí apareix una segona paradoxa, potser encara més inquietant. Mentre especulem sobre la possibilitat que les màquines desenvolupin les nostres tendències competitives, som nosaltres mateixos els qui estem incorporant la IA a les nostres estructures de confrontació. El juliol de 2025, la Casa Blanca va presentar el pla *Winning the AI Race*, situant explícitament la intel·ligència artificial al centre de la competència econòmica i la seguretat nacional. El juny de 2026, un nou memoràndum presidencial va impulsar-ne l’adopció en l’àmbit militar i dels serveis d’intel·ligència. La IA esdevé així una prioritat estratègica de l’Estat, sotmesa a les lògiques de supremacia tecnològica, competència industrial i avantatge militar que han caracteritzat bona part de la nostra història.
La ironia és notable. Temem que una intel·ligència artificial acabi reproduint les nostres conductes més destructives, mentre organitzem el seu desenvolupament d’acord amb aquestes mateixes conductes. I aquesta contradicció no és exclusiva dels Estats Units: forma part d’una dinàmica més àmplia de rivalitat tecnològica internacional. El problema potser no és tant que les màquines desenvolupin espontàniament una voluntat de dominació, sinó que nosaltres les dissenyem, les financem i les despleguem precisament per competir, controlar o dominar.
Això no significa negar els riscos d’una IA avançada. Un sistema no necessita odiar-nos per causar danys. N’hi pot haver prou que persegueixi objectius mal definits, que disposi de massa autonomia sense supervisió o que amplifiqui interessos polítics i econòmics. Però obliga a replantejar la pregunta fonamental: el perill resideix en la naturalesa de les intel·ligències artificials o en les finalitats humanes que orienten el seu desenvolupament?
Potser el repte no hauria de ser fabricar una còpia cada vegada més fidel de la ment humana. Hauria de ser explorar quines altres formes d’intel·ligència podem construir, sota quines responsabilitats i al servei de quines finalitats. Una IA valuosa no necessita compartir les nostres pors ni els nostres impulsos; hauria de poder ajudar-nos a compensar-ne les conseqüències.
El més interessant de les ments sintètiques potser no és que acabin assemblant-se a nosaltres, sinó que ens permetin descobrir que la nostra manera de pensar és només una entre moltes possibles. Tanmateix, aquesta possibilitat es pot perdre si continuem sotmetent les noves intel·ligències a les nostres velles rivalitats.
El perill, potser, no és que les màquines aprenguin espontàniament a lluitar com nosaltres, sinó que nosaltres les dissenyem i les eduquem per fer-ho.