Introducció
La intel·ligència artificial és, cada vegada més, la força que hi ha darrere de qui som i de qui podem arribar a ser, si estem connectats a internet. La IA observa com ens movem, què diem i quines decisions prenem. Els éssers humans som fràgils i propensos a les decisions precipitades o a la malaltia. El nostre jo digital és allò que la IA pot millorar i, alhora, allò que més risc corre davant d'entitats que ignoren els requisits d'una IA responsable.
Si deixem de banda les consideracions ètiques que haurien de ser la base d'una societat que funcioni, és molt probable que la IA es converteixi en una bomba de dispersió, perquè pot arribar a 5.000 milions de persones a través d'internet: una solució tecnològica de nova generació que pot ser àngel i dimoni alhora. L'ètica, la justícia i la confiança són trets humans, i per això és irracional suposar que les eines que fem servir es poden dissenyar perquè mostrin aquestes mateixes característiques o, cosa que passa cada vegada més, les consideracions ètiques i d'equitat que formen part de la nostra humanitat.
La IA responsable no és una paraula de moda. És un compromís per fer del món un lloc millor. Dels xatbots i les interfícies de veu als vehicles autònoms i la internet de les coses, les qüestions ètiques que planteja la IA s'han de respondre, ara i en el futur. La responsabilitat també és un tret humà, però el nostre sistema jurídic l'ha estesa a les institucions, i en aquest sentit la fem servir: una institució ha de respondre dels mals usos de la IA.
En aquest treball parlarem de les diferents facetes de la IA responsable i del que n'esperem. Això inclou, entre altres coses, què vol dir el terme, la seva història i evolució, els principis que hi ha al darrere i les maneres d'aplicar-la.
També considerarem les diferents formes de discriminació i de biaix dels sistemes d'IA, els reptes que afronten els desenvolupadors, el panorama regulador actual i com beneficia la societat la IA responsable. Finalment, examinarem l'estat actual de la IA (inclosa l'explosió de la IA generativa) i les preguntes clau que haurien de fer-se totes les parts implicades abans de fer servir aquesta tecnologia en els seus processos.
Què és la IA responsable?
Amb tanta atenció mediàtica i tant de soroll al voltant del sector de la IA, és fàcil oblidar que la tecnologia no ha aparegut per art de màgia. Fa 80 anys que va néixer i es va popularitzar de debò fa poc més de deu anys. Però ara ChatGPT, que OpenAI va posar a l'abast de tothom el novembre de 2022, ha desfermat l'equivalent a una cursa d'armaments en IA.
És probable que els historiadors del futur assenyalin aquest moment com el catalitzador del que va venir després, però les preguntes, els reptes i les implicacions de l'ús generalitzat de sistemes d'IA fa anys que acompanyen aquesta tecnologia. La IA forma part de la nostra vida des de fa tant de temps que sovint costa recordar quan no hi interactuàvem. El domini d'Amazon en el comerç digital es va construir sobre algorismes d'IA, Netflix va enfonsar Blockbuster amb uns motors de recomanació d'avantguarda, les xarxes socials depenen de la IA per decidir què hem de veure i quan, i les grans tecnològiques no invertirien milers de milions de dòlars a portar la IA al nivell següent si no en veiessin un impacte favorable en el compte de resultats.
Abans de parlar en detall de la IA responsable, convé recordar què vol dir «intel·ligència artificial». Els aficionats a la cultura popular sempre evocaran ordinadors conscients d'un futur distòpic, però la realitat s'assembla menys a Skynet de Terminator i més a solucions automatitzades per a tasques quotidianes.
En aquest article no avaluem l'estat de la IA en si. Ens centrem, en canvi, en com pot evolucionar la IA responsable i, sobretot, en com serà (en teoria) el seu futur. A més, hem de tenir en compte que la intel·ligència de les màquines sovint és un mirall de la humanitat. Això vol dir que hem d'acceptar que pot tenir defectes i ser propensa als biaixos o a conductes apreses.
Dit de manera senzilla, la IA és la ciència i l'enginyeria que hi ha darrere de la idea de fer màquines «intel·ligents». El terme és molt ampli i inclou molts algorismes d'IA, entre els quals el més popular és l'aprenentatge automàtic. Un algorisme d'IA és un conjunt autònom d'operacions pas a pas que serveix per fer càlculs, tractar dades i dur a terme tasques de raonament automatitzat. Un component clau són les dades. Per exemple, la majoria d'algorismes d'IA es basen en models estadístics que s'«entrenen» a partir de conjunts de dades etiquetades mitjançant l'aprenentatge automàtic. És el que s'anomena aprenentatge automàtic supervisat. Aquest inclou les xarxes neuronals, que, quan tenen moltes capes, s'anomenen aprenentatge profund. Els que no hi entren funcionen per anàlisi, amb aprenentatge no supervisat: el descobriment, la interpretació i la comunicació de patrons significatius en les dades. Completen el panorama l'aprenentatge per reforç —aprendre en línia— i la IA simbòlica, entre d'altres.
A més, tot i la temptació de pensar que la tecnologia és realment intel·ligent, és poc probable que, almenys en la seva forma actual, estigui tramant la fi de la humanitat. Les eines d'IA es desenvolupen, més aviat, per fer tasques que aparentment requereixen intel·ligència humana.
La paraula clau aquí és «humana». La IA depèn de les dades per funcionar bé, un component essencial de qualsevol aplicació que puguin imaginar els seus desenvolupadors. A més, la IA va lligada a quantitats enormes de capacitat de càlcul i de finançament. Vista així, és evident que la tecnologia s'assembla més a un infant a qui s'ensenya a distingir el bé del mal que no pas a una màquina que veu la humanitat com una amenaça.
És molt fàcil enganxar etiquetes còmodes com «ètica», «fiable» o «responsable» a una joguina tecnològica nova i lluent, però atribuir trets humans al que, en essència, és una màquina té conseqüències reals. Aquestes tres paraules s'han associat a la IA en els darrers anys, i hi ha el perill que la gent les prengui per intercanviables.
La IA «ètica» implica un cert grau d'agència moral, una condició humana que requereix judicis de valor i una conducta intencionada. Però la IA, en la seva forma actual, no és un agent moral. L'ètica, per tant, només la pot demostrar un ésser humà, i traslladar-la a una màquina no és bona idea.
La IA «fiable» és encara més problemàtica. La IA no és humana, i hauríem d'evitar atribuir capacitats humanes no només a un algorisme sinó també a una màquina dissenyada per funcionar en el buit. Ja sabem que la IA no sempre funciona, de manera que demanar als usuaris que hi confiïn és enganyós. Si fa cent anys algú hagués volgut vendre un bitllet d'avió parlant d'«aviació fiable», el comprador hauria hagut d'amoïnar-se: si una cosa funciona, per què cal afegir-hi «fiable»? Aquesta és la diferència entre l'enginyeria i l'alquímia.
En resum, la IA no s'hauria de posar en cap d'aquests dos calaixos. Tant «ètica» com «fiable» són qualitats que es poden aplicar a l'element humà del procés, però si entren en el discurs sobre la IA ens trobem amb tota mena de problemes. Només per aquest motiu, «IA responsable» és un terme més adequat. Certament, la responsabilitat també és un tret humà, però el concepte té l'avantatge d'aplegar les consideracions ètiques i la rendició de comptes. Les institucions també responen de les seves accions, i s'hi apliquen lleis i normes que impedeixen conductes no ètiques o il·legals que poden perjudicar les persones i la mateixa institució.
Quan pensem fins on pot arribar la xarxa de la responsabilitat, triar bé la paraula per a una tecnologia incipient és crucial. I, des del punt de vista de la integració i l'aplicació, definir què és (i què no és) la IA responsable esdevé cada cop més important en una societat que l'explosió de la IA generativa, com a eina d'optimització empresarial i de productivitat, acaba de capgirar.
En una entrevista a ODBMS Industry Watch (Zicari, 2022), vaig dir que la IA responsable té com a objectiu crear sistemes que beneficiïn les persones, les societats i el medi ambient. Inclou tots els aspectes ètics, legals i tècnics del desenvolupament i el desplegament de tecnologies d'IA beneficioses.
El problema és que l'expressió «IA responsable» ha agafat vida pròpia. Si l'escrivim en un cercador, obtenim milions de resultats en menys d'un segon. Si filtrem només les notícies, en surten milers de respostes en el mateix temps. Per fer-nos-en una idea, ChatGPT tarda uns tres segons a escriure una entrada de blog de mil paraules sobre el tema.
Cada vegada hi ha més empreses que s'esforcen per concretar què és realment la IA responsable. És probable que totes centrin els esforços en els principis que guien el disseny i l'aplicació del sistema. Entrarem en el detall d'aquests principis a l'apartat següent, però els principals són la legitimitat, l'equitat, la transparència, la rendició de comptes, la robustesa, la privadesa, la seguretat i la sostenibilitat.
Tots compleixen el que pot ser la IA responsable, però hauríem de pensar què vol dir aquesta paraula. Per a un ésser humà, la responsabilitat és l'obligació moral, legal o mental de respondre davant dels altres o davant d'una entitat o un objecte (diccionari Merriam-Webster). Per tant, si volem crear sistemes que beneficiïn les persones i la societat en conjunt, hem de garantir que el sistema no interfereix en l'agència humana, no causa danys, no discrimina i no malbarata recursos valuosos.
Les solucions també han de ser robustes tècnicament i èticament, un requisit mínim que abasta des de les dades i els algorismes fins al disseny i les interfícies d'usuari. A més, sempre hi ha d'haver rendició de comptes, no pas del sistema en si, sinó de les persones que el controlen o que hi intervenen.
L'altra cara de reconèixer la necessitat d'una IA responsable és plantejar-se com és una IA irresponsable. El disseny i l'aplicació són elements importants de l'àmbit de la IA responsable, però fins i tot un sistema ben dissenyat podria incorporar pràctiques il·legals o no ètiques.
Per exemple, els desenvolupadors han d'afrontar les conseqüències dels danys no intencionats, sobretot pel que fa al biaix i la discriminació. Cap empresa no admetrà que la seva IA és irresponsable, sobretot si això afecta la marca. Però no cal formar part de la comunitat mundial de la IA per entendre que les màquines, igual que les persones, s'equivoquen. La diferència és que sovint jutgem les màquines amb un llistó més alt que els humans.
Pensem en els vehicles autònoms. Aquests cotxes del futur van carregats d'eines i capacitats d'IA. Però si un fereix o mata algú, la culpa és de l'empresa que ven la IA, i no de la persona o l'equip que la va dissenyar de manera que, posem per cas, no reconegués el pas d'una persona gran travessant el carrer o una persona de pell fosca amb poca llum. Els éssers humans tenen milers d'accidents cada dia, i és poc probable que mai algú demani prohibir els conductors humans a les carreteres.
La IA també forma part del nostre sistema financer. Un banc pot decidir passar la sol·licitud de crèdit d'una persona per una eina d'avaluació automatitzada per decidir si se li concedeix un préstec. L'eina no busca motius per denegar-lo, però farà servir totes les dades disponibles per prendre la decisió. Si els números no surten, és probable que el préstec es denegui, sigui quin sigui el context i, sobretot, sense que cap persona tingui l'última paraula. Altra vegada, no atribuïm la culpa a la institució sinó al sistema automatitzat que només ha fet la seva feina.
Aquests són només dos exemples, però n'hi ha literalment milers en què el cop se l'ha endut la IA i no la persona. Per aprofundir en per què importa la IA responsable, l'AI Incident Database es va crear per indexar la història col·lectiva dels danys, o gairebé danys, que ha causat al món real el desplegament de sistemes d'intel·ligència artificial. I tot i que, evidentment, aquesta no era la intenció dels desenvolupadors, les qüestions que farà aflorar l'adopció generalitzada d'una IA potencialment irresponsable són només la punta de l'iceberg. La IA és en un punt d'inflexió crític, i les preguntes que s'estan plantejant no desapareixeran.
Més endavant parlarem de les propostes reguladores que es debaten ara, però no cal fer gaire esforç per entendre que aplicar els principis de la IA responsable hauria de ser la primera prioritat. Insistim: són persones les que construeixen les estructures, dissenyen els sistemes i entrenen els algorismes, de manera que la responsabilitat passa de la màquina a les persones que intervenen en el procés, tot i que jo prefereixo dir que les persones han de manar i que els ordinadors són els que intervenen en el procés. En resum, fem servir responsabilitat en el sentit legal. Qualsevol dany produït per la IA serà de la institució que la posi en funcionament, com qualsevol altre programari.
Amb això present, passem als principis en què es basa el concepte d'IA responsable i a l'ètica que hi va intrínsecament lligada.
Principis i governança
Abans d'abordar els principis i la governança que requereix la IA responsable, convé mirar el present. Els sistemes algorísmics són l'espinada tant de l'economia digital com dels processos automatitzats arrelats, i la cara pública de la IA —el comerç electrònic, les plataformes de reproducció en continu, els xatbots i la presa de decisions automatitzada— és d'ús generalitzat. És probable que aquesta integració s'estengui encara més abans que acabi la dècada.
Una previsió recent (Markets & Markets, 2026) indicava que la despesa mundial en sistemes d'IA arribaria als 600.000 milions de dòlars només el 2026, amb una taxa de creixement anual del 37% respecte de l'any anterior. Bona part d'aquesta despesa aniria a programari, maquinari i serveis, i dos sectors —la banca i el comerç minorista— representarien com a mínim el 25% del total.
Si desgranem aquesta predicció i examinem què significa no només per a la IA, sinó també per als desenvolupadors, els investigadors i, sobretot, per a les persones afectades en aquest nou món, queda clar que hem d'anar amb molt de compte amb com integrem aquests sistemes i com en mesurem l'impacte social. Segons expertes, les empreses que tardin a adoptar la IA es quedaran enrere i les decisions basades en dades seran la norma. Aquest escenari apuja el llistó en diversos sentits.
No oblidem que la complexitat i l'opacitat dels sistemes d'IA els fan difícils d'entendre. Si hi afegim el ritme de la innovació, garantir que aquests models entrenats per humans es facin servir de manera justa, ètica i beneficiosa per a la societat és fonamental. Això vol dir que hem de respectar no només un conjunt definit de principis, sinó també una forma de governança coherent amb el concepte d'IA responsable. En un món ideal, tot això s'ajustaria a una regulació i una supervisió específiques per a la IA. Parlarem de l'activitat reguladora a l'apartat següent, però no sorprendrà ningú que els debats sobre com regular la IA —unes normes que guanyen importància en l'era posterior als xatbots— es puguin descriure com a oberts.
Per entendre del tot per què establir uns principis i una governança eficaç és el camí que cal seguir, primer hauríem de preguntar-nos què volem d'un sistema algorísmic. Un cop fixat el nivell d'expectatives, els reptes que plantegen aquests models a la IA responsable es poden (en teoria) entendre i mitigar més fàcilment.
Fa molts anys que els sistemes d'IA formen part del sector privat i del públic. Les empreses integren aquestes eines en els seus fluxos de treball per prendre decisions sobre contractacions i avaluacions del personal. Els bancs i les entitats financeres les fan servir per analitzar la despesa dels clients o els préstecs, i la digitalització de la sanitat ha permès que els algorismes facin valoracions sobre l'estat dels pacients. També hi ha decisions algorísmiques en la justícia penal, sovint sense una revisió humana substancial.
Des del punt de vista de la IA, el fet que s'utilitzi i s'adopti cada vegada més no és cap novetat. Tampoc no hauria de sorprendre que l'eficiència i l'estandardització de les decisions es donin sovint com a motius perquè sigui la màquina, i no la persona, qui decideixi. El problema és que, tot i que aquests sistemes s'han dissenyat amb l'ideal utòpic de fer la societat més equitativa, inclusiva i eficient, l'automatització també pot patir els mateixos biaixos i pràctiques discriminatòries que formen part de la condició humana. Igual que els humans que els dissenyen, els algorismes poden no respectar els drets de les persones i ser propensos a discriminacions perjudicials o a altres efectes negatius.
Per això és encara més important establir pautes perquè les segueixin els sistemes algorísmics i normes que compleixin els criteris legals, ètics i científics establerts. A més, cal que els riscos associats al seu ús siguin proporcionals al problema concret per al qual s'han dissenyat. I tot i que han augmentat molt els debats sobre com haurien de ser aquestes normes o pautes, els requisits bàsics del que hauríem d'esperar d'un sistema algorísmic no han canviat.
Aquests requisits no són gaire extensos. El sentit comú ens diu que probablement reflecteixen el que esperem dels éssers humans, amb la diferència que una persona té agència sobre les decisions i una màquina només segueix el que se li ha ensenyat. Un sistema algorísmic, per tant, ha de tenir un cert grau de transparència i de rendició de comptes, coneixement dels biaixos, possibilitat d'accés i de reparació, una explicació de les seves decisions i traçabilitat de l'origen de les dades. A més, ha de ser auditable, ha d'estar validat i s'ha d'haver provat en situacions reals. Tanmateix, els algorismes i altres mecanismes subjacents que fan servir els sistemes d'intel·ligència artificial o d'aprenentatge automàtic per prendre decisions predictives poden ser opacs. Això no només fa aquestes decisions menys comprensibles, sinó que també dificulta saber si els resultats són esbiaixats o erronis.
Aquesta falta de transparència és un repte que la comunitat científica assenyala sovint, sobretot quan es tracta d'avaluar quin impacte tindrà la IA en el conjunt de la societat. Els factors que contribueixen a aquests resultats incerts poden ser informatius, tècnics, econòmics, competitius i socials. La IA pot produir resultats inexplicables, i és un fet acceptat que fins i tot els sistemes algorísmics millor dissenyats tindran errors o dades d'entrenament que potser no s'ajusten a l'ús previst.
Per exemple, les dades que s'han fet servir per entrenar els models i generar anàlisis es poden haver obtingut sense que la persona afectada ho sabés o hi hagués donat el consentiment explícit. El cost de ser transparent pot no ser assumible (des del punt de vista econòmic) o l'algorisme pot ser massa tècnic per interpretar-lo fàcilment. A més, la transparència pot donar avantatge a tercers, en forma de secrets comercials o de la possibilitat d'enganyar el sistema. Tots aquests factors poden influir en com es desplega el sistema i, sobretot, en qualsevol problema de biaix o d'inexactitud en la presa de decisions automatitzada.
Segons l'Association for Computing Machinery (ACM, 2022), hi ha nou principis bàsics que han de respectar els desenvolupadors, els constructors de sistemes i els responsables de les polítiques d'IA:
• Legitimitat i competència
• Minimització del dany
• Seguretat i privadesa
• Transparència
• Interpretabilitat i explicabilitat
• Mantenibilitat
• Impugnabilitat i auditabilitat
• Rendició de comptes i responsabilitat
• Limitació de l'impacte ambiental
El Consell de Polítiques Tecnològiques (TPC) de l'ACM va presentar tots aquests principis l'octubre de 2022, i jo en vaig ser un dels dos autors principals. Partien del reconeixement que governs, empreses privades i altres entitats fan servir els sistemes algorísmics per prendre o recomanar decisions amb efectes de gran abast sobre les persones, les organitzacions i la societat. Arran de l'impacte dels xatbots, el juliol del 2023 aquests principis es van ampliar a tretze (ACM, 2023).
A més, el TPC ha afirmat que és poc probable que una solució única per a tothom sigui eficaç per als sistemes d'IA responsable, i assenyala que el context de cada sistema tindrà un paper essencial en el seu desenvolupament i aplicació. Tanmateix, el TPC també creu que establir aquests principis portarà a nous debats entre les parts implicades, els investigadors i els responsables polítics. Aquestes converses ajudaran a traçar el rumb de la governança de la IA, perquè centraran l'atenció en com ha de ser i promouran la fiabilitat, la seguretat i la responsabilitat dels sistemes algorísmics.
El contrapunt a l'establiment d'aquests principis instrumentals és que l'estat actual de la IA ha posat al descobert reptes importants (i potencialment decisius). Si deixem de banda les qüestions genèriques que acompanyen la integració dels sistemes d'IA en l'esfera pública —principis enfront de tècniques, regulació, els nostres propis biaixos cognitius i les diferències culturals—, trobem altres obstacles en el camí cap a la IA responsable.
Entre aquests hi ha el debat entre IA responsable i IA fiable (vegeu l'apartat anterior), la discriminació (reconeixement facial, justícia, economia col·laborativa, grans models de llenguatge), la pseudociència (com la frenologia o les prediccions basades en dades biomètriques), el comerç digital injust (exposició dels usuaris i biaix de popularitat) i l'estupidesa dels mateixos models a causa de la incompetència humana. Amb la IA generativa van aparèixer més problemes de desinformació, ciberseguretat, delegació cognitiva i salut mental, a més de violació de drets d'autor i impacte mediambiental.
Això últim contribueix, segurament, a com definim què vol dir ser responsable, sobretot quan pensem en com s'han de fer servir els sistemes perquè siguin justos i ètics. Els usuaris haurien de poder entendre com funcionen els sistemes d'IA i com prenen les decisions. Al mateix temps, s'accepta que aquestes eines tenen la finalitat d'ampliar les capacitats humanes, no de substituir les persones ni de perjudicar-les.
Tenint en compte tot això, hem de passar a la governança de la IA. Els principis de l'ACM són una bona base sobre la qual construir, però l'entitat que desplega un sistema algorísmic ha de seguir una estructura de governança clara quan decideix dissenyar-lo i posar-lo en marxa. Aplicar els principis obligarà a fer concessions entre uns i altres, i és d'esperar que depenguin del context del desplegament, de la influència de les polítiques públiques i, cada vegada més, de les forces del mercat que incentiven el desenvolupament dels mateixos sistemes. A la figura següent es mostra com s'haurien d'aplicar els principis de l'ACM al llarg del cicle de vida del sistema, així com les principals eines que cal fer servir en cada fase. A la figura es destaca que (1) les proves del sistema es poden fer en espais de proves o «sandboxes», que són entorns d'avaluació de programari aïllats i controlats; (2) els equips vermells («red teaming», en anglès), que fan d'advocats del diable, són vitals per comprovar les suposicions del disseny i de la implementació del sistema, a més de participar en les auditories, i (3) no s'ha d'auditar mai un sistema que no és legítim, perquè auditar-lo seria legitimar-lo.
Què implica, doncs, una governança eficaç? I com podem aplicar un enfocament complet i integrat a la difícil qüestió de la IA responsable? La resposta a totes dues preguntes és en com abordem l'ètica en un sistema algorísmic. Un enfocament ètic dels problemes gira al voltant d'una idea central: què és el correcte? La clau per resoldre la qüestió de la IA responsable, segons el model de resolució de trencaclosques en ètica, és no perdre's en les normes, els reglaments i les aprovacions que comporta plantejar-se qüestions ètiques. Prendre la decisió correcta des del primer dia és fonamental, igual que evitar els problemes d'una estratègia indefinida o de la manca de processos d'auditoria. Tot això pesa més en el debat quan tenim en compte el poder creixent dels sistemes algorísmics i els reptes tècnics que plantegen.
Un marc conceptual és el model PiE desenvolupat per l'AI Ethics Lab (Canca, 2019). Aquest model ofereix un full de ruta cap a la IA responsable que inclou la governança, el producte i les competències necessàries per a una integració eficaç. Com hem dit, els sistemes d'IA són pertot arreu, però això només apuja el llistó a l'hora de promoure la IA responsable i garantir que tothom juga amb les mateixes regles. Vol dir que no només hem de regular la IA, sinó també posar-nos d'acord sobre quina ha de ser aquesta regulació. A l'apartat següent explicarem per què no és tan fàcil com sembla.
Regulació
La inversió en IA i la seva integració són una prioritat per a empreses de totes les mides, però el que importa és aplicar en qualsevol futur de la IA els punts de referència i les expectatives que s'han associat a aquesta tecnologia de nova generació. La regulació, una peça essencial del trencaclosques, continua en construcció.
Com hem dit a l'apartat anterior, reconèixer els principis i la governança que volem per a la IA és només el primer pas. El que compta és com regulem l'ús de la IA en el món real. En el moment d'escriure aquestes línies, el panorama regulador s'assembla al salvatge oest. No hi ha ajudat l'aparició d'eines d'IA generativa ni la pressa per integrar aquests grans models de llenguatge en els fluxos de treball d'una gran varietat de sectors.
Per al conjunt de la comunitat de la IA, aquesta consciència pública tan visible del que són capaços de fer els sistemes d'IA ha plantejat preguntes no només sobre què en sap la gent, sinó també sobre quin grau de regulació caldrà per mantenir-la sota control. Les grans tecnològiques van llançar ràpidament altres sistemes d'IA generativa, i l'interès regulador de les administracions de tot el món va arribar poc després, d'una manera gairebé inevitable.
Segons Reuters (Shepardson i Bartz, 2023), l'Administració Nacional de Telecomunicacions i Informació dels Estats Units (NTIA) volia saber si es podien aplicar mesures reguladores que garantissin que els sistemes d'IA són legals, eficaços, ètics, segurs i, en general, fiables. L'Administració Biden, segons la mateixa font, estava preocupada per si aquestes eines eren perilloses, i s'esperava que l'NTIA redactés un informe sobre la situació present i futura de la IA. Aquest enfocament prudent no sorprèn, sobretot venint d'una agència que assessora el president en política.
Les normes actuals sobre IA als Estats Units, a Europa i a la Xina, per exemple, es divideixen en dos grups: lleis que es podrien aplicar a l'ús de sistemes d'IA i propostes de marcs reguladors o de pautes per al futur.
Els Estats Units no tenen cap regulació específica sobre IA, però l'Oficina de Política Científica i Tecnològica de la Casa Blanca (OSTP) va publicar l'octubre de 2022 un Blueprint for an AI Bill of Rights (Casa Blanca, 2022), un esbós de carta de drets davant la IA que estableix cinc principis per al disseny, l'ús i el desplegament del que l'agència anomena «sistemes automatitzats». Segons l'OSTP, aquest marc respon a les preocupacions de la ciutadania i serà un pas important per protegir les persones de les amenaces (sense especificar) de la intel·ligència artificial.
Els principis i les pràctiques associades són exactament el que s'esperaria d'una guia exploratòria: sistemes segurs i eficaços, protecció contra la discriminació algorísmica, privadesa de les dades, avís i explicació, i alternatives humanes, consideració i mecanismes de rescat. El més interessant és que el govern federal no només impulsa una política definida sobre IA —amb el suport públic del president Biden—, sinó que també recorre a lleis i normes que es podrien aplicar als sistemes d'IA. Tot i això, aquestes recomanacions van ser anul·lades pel segon govern de Trump.
Per exemple, la Llei de la Comissió Federal de Comerç (FTC Act) prohibeix les pràctiques comercials deslleials o enganyoses. Això podria incloure fer servir sistemes d'IA d'una manera enganyosa o perjudicial per als consumidors. A més, l'Agència de Ciberseguretat i Seguretat d'Infraestructures (CISA) ha publicat diversos documents d'orientació sobre com protegir els sistemes d'IA. Tots dos enfocaments són encara incipients pel que fa a regular la IA tal com és ara, però indiquen que els sistemes algorísmics probablement seran regulats més aviat que tard. La Cambra de Comerç dels Estats Units va publicar fa poc un informe que demanava intensificar el debat sobre l'ús de la IA, i advertia que la tecnologia podia frenar el creixement econòmic o convertir-se en un risc per a la seguretat nacional, una posició contrària a la seva retòrica habitual contra la regulació (Cambra de Comerç dels EUA, 2023).
La Brookings Institution indicava (Engler, 2023) que l'enfocament del govern federal dels Estats Units en la gestió dels riscos de la IA es pot caracteritzar, en termes generals, com a basat en el risc, sectorial i molt distribuït. Segons la institució, els possibles avantatges d'aquest enfocament poden quedar neutralitzats perquè contribueix a una percepció de desenvolupament desigual de les polítiques d'IA, i els autors de l'informe observen que la publicació de diversos documents d'orientació no ha portat la regulació necessària.
Europa, en canvi, ha adoptat un enfocament més estricte. El Reglament general de protecció de dades (RGPD) de la UE és aplicable des del 2018 i regula com les empreses tracten les dades personals relatives a una persona. Aquesta legislació segueix un conjunt de principis definits, com el tractament lícit i lleial, la limitació de la finalitat i la minimització i la conservació de les dades. El RGPD es va concebre per protegir les nostres dades personals, i la llei estableix que les persones han d'estar informades de com s'utilitzen les seves dades i de quins són els seus drets.
En els cinc anys que fa que és vigent, el RGPD ha canviat la manera de veure les dades, encara més quan són objecte d'una filtració o d'un ús no autoritzat. I tot i que la llei no esmenta específicament la IA ni els sistemes algorísmics, s'entén tàcitament que podrien entrar en l'àmbit de l'article 22. La presa de decisions automatitzada preocupa cada vegada més, i s'espera que la nova onada d'IA generativa intensifiqui el debat sobre si les disposicions del RGPD es poden incorporar a la regulació.
Des del punt de vista estricte de la IA, però, la Unió Europea ha estat proactiva. El 2021 va publicar una proposta de llei d'intel·ligència artificial (AIA), que es va aprovar finalment l'agost de 2024. La llei classifica els sistemes d'IA en quatre categories de risc:
• Risc inacceptable: es prohibirien els sistemes d'IA que representen una amenaça greu per a la seguretat, els drets fonamentals o la seguretat pública.
• Risc alt: els sistemes d'IA que representen un risc important per a la seguretat, els drets fonamentals o la seguretat pública estarien sotmesos a requisits estrictes, com ara l'avaluació obligatòria de la conformitat i la vigilància del mercat.
• Risc limitat: els sistemes d'IA que representen un risc limitat estarien sotmesos a certs requisits, com la transparència i la documentació.
• Risc mínim: els sistemes d'IA que representen un risc mínim no estarien sotmesos a cap requisit específic.
Certament, la UE es centra en la gestió del risc, però es pot dir que l'AIA és la primera llei que tracta específicament l'impacte que tindrà la IA en la salut pública, la seguretat i el benestar.
Els sistemes d'alt risc, per exemple, estarien sotmesos a la regulació més estricta. Hi entraria qualsevol IA que es consideri un component de seguretat d'un producte regulat: dispositius mèdics, maquinària o detecció de perills en vehicles de motor, per esmentar-ne només tres. La identificació i la categorització biomètriques de persones físiques per part de les forces de seguretat també serien en aquesta categoria, i els desenvolupadors de sistemes d'IA haurien d'establir la finalitat prevista dels algorismes.
A més, qualsevol regulació de l'ús de la IA hauria de tenir en compte l'usuari final i els resultats que produeix la IA: la IA conversacional, per exemple, forma part del desenvolupament infantil, amb milions d'infants que interactuen amb interfícies de veu. Si hi afegim la familiaritat amb els sistemes de recomanació a través d'aplicacions pensades per a infants, els riscos associats a la IA arriben a un altre nivell.
Segons els legisladors que hi ha al darrere, la llei europea d'IA (Unió Europea, 2024) podria esdevenir un estàndard mundial. Cal determinar fins a quin punt la IA pot ser una influència positiva, i no negativa, per a la societat, i segons sembla ja serveix de marc perquè altres països es plantegin la seva posició reguladora. El problema és que s'hi han detectat alguns defectes, com el fet que (en la forma actual) és relativament poc flexible i reflecteix el moment en què es va redactar.
Al meu parer, la llei europea té tres problemes importants. Primer, no hauríem de pretendre regular l'ús de la tecnologia, sinó centrar-nos en els problemes i els sectors als quals afecta. Hi ha un element de por pel possible dany a les persones, però hauríem d'abordar la IA de la mateixa manera que supervisem els aliments o la sanitat. Dit d'una altra manera, hem de redactar normes que funcionin per a totes les tecnologies possibles i no només per a les que existeixen ara.
Segon, hem d'entendre que el risc no és estàtic. És, més aviat, una variable contínua. És poc probable que les empreses que decideixin integrar la IA en la seva activitat vulguin classificar-la en les quatre categories de risc que proposa l'AIA, i hi haurà la possibilitat d'un conflicte d'interessos en l'autoavaluació. Una manera millor d'abordar els riscos possibles és comparar la regulació de la IA amb mecanismes de millora com els de l'Agència dels Aliments i els Medicaments dels Estats Units (FDA): un camí acceptat que aprova per fases un medicament o un dispositiu, mitjançant estudis i validació en persones.
El tercer i últim problema que no aborda la proposta és el dels sistemes que no fan servir IA. No tots els sistemes algorísmics són entrenats per humans: alguns es limiten a interpretar les dades que se'ls presenten i decideixen a partir d'aquesta informació. Les eines de presa de decisions automatitzada són molt habituals en sectors com la selecció de personal i les finances, i hi ha arguments per defensar que la llei europea s'hauria d'aplicar a tots els sistemes algorísmics, no només als basats en IA. Si no, hi ha una escletxa fàcil per esquivar la regulació.
Això encara preocupa més quan tornem a la influència de la IA generativa. Els grans models de llenguatge es promocionen com a eines de productivitat, i les empreses ja els fan servir per automatitzar l'atenció al client, generar informes, crear continguts, agilitzar les vendes o el màrqueting, i més (Leighton, 2023).
Aquest augment de l'ús i del coneixement de la IA ha obligat diversos organismes públics a accelerar el debat sobre quines mesures reguladores calen. Al marge de la llei europea esmentada, el Financial Times informava que la UE es disposava a introduir un ampli conjunt de normes sobre l'ús de la IA, que obligarien els desenvolupadors a ser més transparents sobre com s'entrenen aquests models i si vulneren els drets d'autor (Espinoza i Johnston, 2023).
Ara que ja no està lligat al procés de decisió de la UE, el govern del Regne Unit va publicar fa poc un llibre blanc (Govern del Regne Unit, 2023) amb propostes d'actuació reguladora, tot i que els autors van tenir cura de precisar que els principis que s'hi debatien eren més aviat orientacions pràctiques que no pas normes concretes sobre l'ús de la IA. El Regne Unit també preveu revisar el mercat de la IA i avaluar el risc de «domini empresarial» d'una sola empresa o proveïdor tecnològic. Segons BBC News (Thomas, 2023), l'Autoritat de la Competència i els Mercats (CMA) tem que dues de les empreses vinculades a l'actual revolució de la IA —Microsoft i Google— puguin tenir un impacte local important, ja que el programari dels grans models de llenguatge té el poder de transformar la manera com competeixen les empreses i d'impulsar un creixement econòmic notable.
Fora d'Europa, no podem passar per alt com afronta la Xina aquesta onada d'innovació i d'adopció. La Xina va ser el primer país del món a tenir una regulació per a l'ús de la IA generativa, que va començar a regir a mitjans del 2023 (Digichina, 2023). Si en deixem de banda la part política, la part tècnica és sòlida i força completa.
Al principi d'aquest apartat hem dit que la regulació de la IA continua en construcció. I tot i que el debat sobre com ha de ser agafa velocitat, la fascinació actual pels sistemes algorísmics i el seu desplegament fan que la regulació deixi de ser un tema de conversa per esdevenir una acció necessària. El repte, per tant, no és si necessitem regulació (que sí que la necessitem), sinó com serà i com afectarà la necessitat d'una IA responsable i els principis en què es basa. Fins que no sapiguem respondre aquesta pregunta tan senzilla, l'analogia del salvatge oest probablement continuarà vigent durant un temps.
Conclusions
Mark Weiser, reconegut com el pare de la informàtica ubiqua, va dir una vegada que una bona eina és una eina invisible. La seva analogia era que el cec que dona copets amb el bastó sent el carrer, no el bastó. Dit d'una altra manera, ha de ser una cosa que no s'imposi a la nostra consciència i, per extensió, que no hi sigui per fer-nos mal. La IA pot ser aquesta eina, però és l'element humà el que li dona pautes responsables i ètiques.
La ciència-ficció s'ha convertit, en bona mesura, en la nostra realitat actual. El poble global que va predir Marshall McLuhan als anys seixanta ja no és una visió del futur: forma part del nostre present connectat, un ecosistema digital que toca tots els aspectes de la nostra vida. Els dispositius que fem servir cada dia han ampliat la nostra humanitat, una evolució que ens dona accés a un segon cervell sempre que el necessitem. Aquests dispositius connectats no només defineixen qui som: presenten un jo digital. A més, els sistemes automatitzats que les persones han dissenyat i integrat, no només per alleujar les tasques rutinàries sinó també perquè les empreses siguin més àgils i eficients, són presents en tots els sectors.
Quan es combinen aquests dos factors, creen una petjada virtual que té com a objectiu millorar tant la vida que fem com la feina que fem. El problema és que les eines que fem servir i les solucions que aporten són, en essència, sistemes que no pensen. I tot i que es poden haver desenvolupat amb bones intencions, les conseqüències ètiques no previstes de màquines programades per persones podrien ser un perill real i present.
En definitiva, la IA responsable no hauria de ser una idea de darrera hora, però fins que no tinguem les pautes reguladores i les baranes de seguretat al seu lloc, els sistemes d'IA s'hauran d'integrar de manera que totes les parts implicades se sentin còmodes amb com s'utilitzen i, sobretot, amb el seu impacte en la societat. La IA pot canviar les regles del joc en molts sentits, però tots els jocs necessiten regles. I els jugadors les han de complir. Si no ho fan, aquesta nova eina tecnològica tan lluent pot afectar la nostra vida de maneres que ens costarà preveure o, fins i tot, planificar.
Sobre l'autor
Ricardo Baeza-Yates és director científic de You.com, a San Francisco. És també catedràtic a temps parcial als departaments de Teoria de la Computació de l'Institut Reial de Tecnologia (KTH) d'Estocolm, d'Enginyeria de la Universitat Pompeu Fabra (UPF) de Barcelona i de Ciències de la Computació de la Universitat de Xile a Santiago, on a més és investigador sènior de l'Institut Mil·lenni de Fonaments de les Dades. Anteriorment, va ser director de recerca a l'Institut d'IA Experiencial de la Northeastern University del 2021 al 2025 i, entre el 2006 i el 2016, vicepresident de recerca de Yahoo Labs, primer dirigint el laboratori de recerca per a Europa a Barcelona i més tard, el 2014, com a Chief Research Scientist a Sunnyvale, Califòrnia.
Ha rebut el premi Luiz André Barroso de l'ACM (2025), el primer premi al mèrit de la Societat Xilena de Ciències de la Computació (2025), el premi nacional xilè de ciències aplicades i tecnològiques (2024), el premi nacional espanyol Ángela Ruiz Robles, que atorguen la SCIE i la Fundació BBVA (2018), el premi a la persona de l'any que atorguen les associacions catalanes d'enginyers de telecomunicació i d'informàtica (2019), el premi nacional del Col·legi d'Enginyers de Xile (2010), el premi llatinoamericà que atorga el CLEI (2009), la medalla Graham de la Universitat de Waterloo (2007), el premi d'innovació tecnològica de l'Institut d'Enginyers de Xile (1994) i un premi per a investigadors joves de l'Organització dels Estats Americans (1993).
Va fer els estudis de grau i de màster en enginyeria elèctrica i ciències de la computació a la Universitat de Xile (1985) i el doctorat en ciències de la computació a la Universitat de Waterloo, al Canadà (1989). El 2025 va rebre el doctorat honoris causa per la Universitat de Göteborg, a Suècia. És coautor del llibre més citat en recuperació d'informació (Addison-Wesley, 1999), la segona edició del qual (2011) va obtenir el premi al millor llibre de l'any de l'Associació Nord-americana de Sistemes d'Informació i Tecnologia (ASIST). També ha estat president del CLEI (Centre Llatinoamericà d'Estudis en Informàtica), membre de les juntes directives de l'ACM i de la IEEE Computer Society i del Consell d'IA del govern espanyol, i coordinador internacional del subprograma d'informàtica i electrònica aplicades del CYTED (Programa de Cooperació Iberoamericà). Des del 2010 és membre fundador de l'Acadèmia d'Enginyeria de Xile. És membre de l'Acadèmia de Ciències de Xile (2023) i membre corresponent de l'Acadèmia de Ciències del Brasil (2019). També és membre del comitè directiu de la Global Partnership on AI, del Consell Assessor de l'Observatori d'IA de Catalunya, del Comitè de Polítiques Tecnològiques de l'ACM i del Comitè d'IA de l'IEEE. Finalment, el 2009 va ser nomenat ACM Fellow, el 2011 IEEE Fellow i el 2026 ELLIS Fellow.