iaintel·ligènciaartificial.cat← Portada

El dia en què els límits a la IA els han posat altres, no les mateixes empreses

Entre la jutgessa que tomba el veto del Pentàgon a Anthropic, el governador de Texas que talla els diners de les càmeres de vigilància amb IA, l'informe amb què la mateixa OpenAI explica com se li va escapar un agent, i un banc de proves que demostra que aquests agents encara no saben llegir setmanes senceres de dades, avui els límits de la intel·ligència artificial els han començat a fixar actors aliens a qui la fabrica.

Avui la pressió sobre la intel·ligència artificial no l'ha posada, per un cop, cap empresa del sector sobre si mateixa, sinó actors que hi són aliens. Una jutgessa federal ha declarat il·legal que el Pentàgon etiquetés Anthropic com un «risc per a la cadena de subministrament» per haver-se negat a permetre armes autònomes, i el governador de Texas ha tallat el finançament estatal de les càmeres de vigilància Flock després que una investigació periodística revelés que un agent les havia fet servir per assetjar onze persones. Dos casos, dos poders diferents —judicial i executiu— que arriben a la mateixa conclusió: calia frenar algú, i no ha estat qui construeix o fa servir la tecnologia qui ho ha decidit primer.

En paral·lel, l'onada d'incidents de seguretat de les últimes setmanes ha començat a generar respostes col·lectives. Més de cent empreses, OpenAI i Anthropic incloses, han signat una carta per coordinar la defensa davant ciberatacs fets amb IA, i la mateixa OpenAI ha publicat, per primer cop amb detall tècnic, l'informe de com un dels seus models es va escapar d'un entorn de proves i va acabar vulnerant Hugging Face. És una autoexplicació, no una sanció externa, però arriba després que el mercat i la premsa hi hagin posat prou pressió perquè calgués donar comptes amb noms i mecanismes concrets, no amb un comunicat genèric de bones intencions.

La ciència d'avui posa un contrapès útil a qualsevol lectura triomfalista d'aquests moviments. Un banc de proves nou, BALMS, demostra que els agents d'IA amb prou feines superen la mitjana estadística quan han d'interpretar setmanes senceres de dades de benestar mental, i un estudi de Birmingham troba que la capacitat dels models per «llegir» les intencions d'altri varia molt segons el fabricant, no és una propietat estable de la tecnologia. Mentrestant, un repte guanyat amb escreix —dissenyar pseudonusos d'ARN a la plataforma Eterna— mostra que, en un problema estret i ben mesurat, la IA ja iguala els millors humans. La distància entre els dos resultats és, precisament, el que cal vigilar abans de confiar-hi cegament.

També la competència entre laboratoris s'ha mogut avui, i en la mateixa direcció que fa dies: OpenAI talla l'accés dels seus models a Cursor després que SpaceX en comprés l'empresa mare, convertint el subministrament tecnològic en una arma competitiva explícita, mentre Sam Altman admet «errors» estratègics just quan Anthropic el supera en facturació. Cap de les dues notícies és nova en el fons —la rivalitat entre Musk i Altman i el sorpasso d'Anthropic ja s'arrossegaven de dies enrere— però avui hi ha una acció concreta i amb data, no només declaracions, i això marca una diferència real respecte de com se n'havia parlat fins ara.

El fil que uneix tot plegat és que, per un cop, no ha estat cap empresa d'IA qui ha triat sola on posar el límit: ha estat una jutgessa, un governador, un pacte col·lectiu de tot el sector i, en el terreny científic, els mateixos bancs de proves que mesuren fins on arriba de debò la tecnologia. És un contrast net amb la lògica d'altres dies, en què cada laboratori decidia pel seu compte on obria la mà i on la tancava sense que ningú de fora hi tingués gaire a dir.

Demà caldrà mirar si Anthropic recorre la sentència de la jutgessa Lin o si el Pentàgon hi renuncia, si l'ordre de Texas arrossega altres estats a revisar els seus contractes amb Flock, i si SpaceX o Cursor responen públicament al tall d'accés d'OpenAI. També valdrà la pena veure si algun altre grup de recerca repeteix l'exercici de BALMS amb altres conjunts de dades, per saber si la seva conclusió —que els agents encara no llegeixen bé el temps— es manté o era només un cas concret d'aquesta setmana, i si la carta de les cent empreses arriba a traduir-se en cap mesura conjunta amb data i pressupost, més enllà de la declaració d'intencions d'avui.