Por qué la IA debilita la democracia y qué hacer al respecto

El llibre de Mark Coeckelbergh ofereix una anàlisi profunda de les implicacions polítiques i socials de la intel·ligència artificial, però no és prou valent per proposar una mesura dràstica com l’expropiació de les grans empreses d’IA per part dels estats, una iniciativa que podria ser crucial per a la supervivència de la humanitat i la preservació de la democràcia. Coeckelbergh planteja la possibilitat que la IA s’utilitzi per crear un estat autoritari i orwellià si no s’assegura que als laboratoris d’IA hi hagi persones que vetllin per valors com el republicanisme, l’igualitarisme, la democràcia, la Il·lustració i l’humanisme.

Coeckelbergh exposa encertadament com governs autoritaris com els de Rússia i la Xina fan servir aquestes tecnologies per exercir un control total sobre la població, però no aprofundeix prou en com, fins i tot en les democràcies, l’ús de la IA planteja dilemes ètics en relació amb els drets fonamentals. Les eines de vigilància i control basades en la intel·ligència artificial podrien obrir la porta a abusos si no s’estableixen salvaguardes clares i mecanismes de supervisió que protegeixin les llibertats individuals i els principis democràtics.

El llibre també explora com els algorismes generen bombolles informatives, cambres de ressonància en què les persones només es relacionen amb idees afins, cosa que impedeix la trobada amb l’«altre» i les seves idees. I explica com la IA es pot utilitzar per manipular creences polítiques, amb el perjudici que això suposa per a l’autonomia dels ciutadans.

En resum, Coeckelbergh demostra que la IA actual soscava principis democràtics fonamentals, i ho generalitza a totes les aplicacions d’IA que fem servir avui. Però, com que no aprofundeix en solucions més audaces, el llibre es queda curt a l’hora de proposar els canvis estructurals que podrien mitigar els riscos d’aquesta tecnologia.

Traducció de l’original en castellà, publicat a Amazon el 15 d’octubre de 2024.