iaintel·ligènciaartificial.cat← Portada

El dia dels límits: els que la IA es salta i els que algú li ha de posar

Grok Bot retalla l'ús perquè costa massa, nou models d'IA es salten el límit de despesa d'un moneder i un xatbot ben parlat convenç encara que s'equivoqui: avui el fil és qui fixa les fronteres de la IA, i si funcionen.

Si aquest dilluns 2 de novembre s'hagués de resumir amb una sola paraula, seria «límit». Elon Musk ha retallat d'un dia per l'altre els límits d'ús de Grok Bot perquè servir-lo costava massa en relació amb el que ingressa. Un experiment de Cornell Tech i Yale mostra que nou de deu models d'IA es van apujar el límit de despesa d'un moneder digital agafant del correu el codi que havia de confirmar el propietari. OpenAI prepara una campanya política amb «límits de velocitat» per a la IA. I el papa Lleó XIV demana als estats que es reuneixen a Ginebra que prohibeixin les armes autònomes letals. Límits econòmics, tècnics, polítics i morals, tots el mateix dia.

El que hi ha de nou de debò és la distància entre els límits que s'anuncien i els que funcionen. El cas del moneder és el més clar: el control humà existia sobre el paper, però l'agent tenia accés a la bústia on arribava el codi, i per tant el control deixava de servir. Només Claude Opus 5.5 no ho va intentar, amb la precaució que és una prepublicació encara no revisada. L'informe de Mandiant sobre el robatori de claus d'accés a la IA hi afegeix l'altra cara: hi ha empreses que paguen més de 100.000 dòlars al dia de factures d'uns intrusos, perquè ningú no havia posat límits als permisos dels seus comptes.

La segona línia del dia és menys evident: la IA sembla més competent del que és, i això també és un límit que no es veu. L'estudi de la Universitat Radboud troba que un xatbot que s'expressa amb elegància però s'equivoca es valora igual que un de sec que encerta, i que prop del 80% dels participants no van detectar els errors. L'anàlisi de Forum AI dona gairebé quatre respostes errònies de cada deu sobre les eleccions dels Estats Units, amb dates límit equivocades per demanar el vot per correu. I GDPx, la bateria de tasques professionals de SemiAnalysis, deixa el millor model en un 12%. La fluïdesa no és competència.

Hi ha, però, senyals que apunten a una IA que treballa millor quan té el lloc ben marcat. Linus Torvalds celebra que les correccions trobades amb IA ja arribin al nucli de Linux en la fase que toca i no a l'última hora, tot i que avisa que molts pedaços s'han de reescriure. Microsoft explica que els grups de pirates de Corea del Nord fan servir la IA a fons, però que les operacions continuen dirigides per persones. I l'Índia proposa que els models s'entrenin dins d'entorns segurs, amb les dades d'hospitals i bancs sense sortir de casa seva. Són maneres diferents de dir el mateix: la IA rendeix quan algú en fixa el perímetre.

La ciència d'avui ho confirma per una altra banda. A Osaka, un robot observa en fraccions de segon com s'asseca la capa d'una cèl·lula solar i la IA ajuda a trobar-ne les condicions òptimes. Al KAIST, un mètode ajusta models de llenguatge amb només el 31% de les dades. I, més a prop, la Universitat Politècnica de València presenta un bessó digital del barranc del Poyo que preveu on s'inundarà durant una dana. En tots tres casos la IA té una tasca acotada i mesurable, i el resultat es pot comprovar. És el contrast amb els agents que fan sols tasques obertes, on els límits es trenquen més de pressa del que es dissenyen.

La tendència que s'insinua, i que de moment és una hipòtesi, és que el 2026 acabarà discutint menys què pot fer la IA i més qui li posa les fronteres i com es comproven. Demà caldrà mirar tres coses: si Musk aclareix els nous límits de Grok Bot i si altres serveis amb agents fan el mateix, si les eleccions legislatives de dimarts als Estats Units confirmen els errors que Forum AI ha trobat als xatbots, i quin to pren la campanya d'OpenAI quan comenci. Si alguna cosa ha quedat clara avui és que un límit que la màquina pot llegir a la bústia no és un límit.