iaintel·ligènciaartificial.cat← Portada

Qui decideix què entra i què surt de la IA

Un dissabte de borsa en caiguda en què Signal, Etsy, les escoles dels Estats Units, OpenAI i Washington han discutit, cadascú pel seu cantó, qui té dret a posar les condicions de la IA.

El dia ha començat amb el ressò de la sessió de divendres a Wall Street: el Nasdaq va perdre un 5,3%, Nvidia gairebé un 14% i Anthropic, en la seva segona jornada a la borsa, prop d'un 9%. Però, més enllà del soroll dels mercats, les notícies d'avui tenen un fil comú menys espectacular i més durador. Gairebé totes parlen de fronteres: qui pot llegir què, qui pot entrenar amb què, qui pot construir on i qui pot copiar qui. La IA ja no es discuteix només pel que sap fer, sinó per les condicions en què ho fa.

Les fronteres més properes al lector són les de les dades. Signal impedeix que Siri i Gemini facin captures de pantalla dels xats, perquè els agents integrats als mòbils s'emportaven les converses fora de l'aplicació, i admet que la protecció és incompleta. Etsy ha afegit a les condicions d'ús una clàusula que li permet entrenar sistemes d'IA amb el contingut dels venedors i, davant la marxa d'artesans, promet que no en farà models per copiar-los l'obra, però no canvia el text. I tres dels quatre districtes escolars més grans dels Estats Units planten cara a Google, que vol que acceptin els resums d'IA si volen continuar fent servir el cercador.

Les empreses també aixequen murs entre elles. OpenAI diu que ha fet gairebé impossible copiar el raonament intern dels seus models nous per entrenar-ne d'altres, i que cada setmana tanca milers de comptes que ho intenten. Cursor, l'eina de programació de SpaceX, estudia deixar els models oberts xinesos per risc geopolític, segons un informe del Congrés que alhora reconeix que són barats i gairebé tan bons com els millors. I Trump amenaça amb un impost «enorme» les empreses que construeixin centres de dades fora, sense concretar ni la quantia ni a qui afectaria. La frontera ja no és només comercial: és política.

Hi ha, però, notícies que van en la direcció contrària. Thinking Machines ha publicat Inkling 2 Mini, un model obert que cap en un portàtil i que, segons les seves proves i les d'Artificial Analysis, rendeix com altres de molt més grans en programació. Per a qui no vol enviar les dades a fora, un model que funciona a casa és la manera més directa de fixar les pròpies condicions. Ahir dèiem que la IA prometia molt i es podia comprovar poc; avui el codi en Lean de la demostració de la hipòtesi de Riemann compila, però ningú no n'ha entès encara l'argument. Verificar i comprendre continuen sent dues coses diferents.

La ciència del dia recorda per què val la pena que aquestes condicions estiguin ben posades. Una IA del CNIC llegeix els senyals que ja envien els desfibril·ladors implantats i avisa mesos abans del risc d'una arítmia greu; un model que llegeix imatges de satèl·lit calcula que, sense les mesures de control, l'Àfrica subsahariana tindria més del doble de casos de malària. Totes dues feines depenen de dades sensibles o col·lectives. En canvi, un estudi amb agents simulats mostra que les salvaguardes cedeixen quan algú les manipula, i METR constata que els models més avançats encara no saben dissenyar proves útils per avaluar altres IA.

Què caldrà mirar els propers dies? Primer, si Google ofereix a les escoles el cercador sense resums o si la topada acaba als tribunals per una qüestió de competència. Segon, si Etsy rectifica el text de les condicions o es limita a les explicacions. Tercer, si la caiguda de la borsa continua dilluns o queda en un mal divendres. I, de fons, com respondrà Brussel·les, que dilluns tanca la consulta sobre les normes per protegir les eleccions dels vídeos falsos: és una altra manera de decidir qui posa les condicions.