iaintel·ligènciaartificial.cat← Portada

Agents que treballen sols en quatre fronts, i les esquerdes que deixen al descobert els seus fonaments

Nvidia, River AI, xAI i OpenAI empenyen el mateix dia cap a agents d'IA que treballen hores sense supervisió, mentre una filtració real de credencials, cartes del Congrés dels Estats Units i noves sortides directives a OpenAI recorden que la vigilància encara no ha arribat on ha arribat la tecnologia.

Quatre notícies d'avui, de quatre empreses diferents, diuen bàsicament el mateix: la indústria deixa de vendre assistents que responen preguntes i passa a vendre agents que treballen sols, hores seguides, sense supervisió constant. Nvidia presenta Nemotron 3.5 Lightning, un model obert pensat perquè agents facin tasques repetitives tot el dia; River AI, una start-up de dos mesos fundada pel cofundador de xAI, capta 1.100 milions de dòlars per entrenar-los a mida; xAI llança Grok Bot, agents amb ordinador propi al núvol que continuen treballant amb el portàtil de l'usuari apagat; i OpenAI porta per fi ChatGPT i Codex a Linux, el sistema on ja treballen molts dels programadors que els deleguen feina.

Però el mateix dia que aquesta empenta agafa forma en quatre fronts, una investigació recorda que la infraestructura sobre la qual es construeix encara té esquerdes reals. Un equip acadèmic ha demostrat que els blocs xifrats amb què OpenAI, Anthropic i Google preserven el «pensament» intern dels seus models de raonament es poden reutilitzar entre sessions, usuaris i models, i n'han extret 704 credencials reals -claus d'API, contrasenyes, tocs d'accés- de trajectòries públiques d'agents. No és un experiment de laboratori aïllat: és exactament el tipus d'infraestructura que fa possible els agents que Nvidia, River AI i xAI presenten avui mateix.

La coincidència no és casual, perquè avui també arriben els primers senyals que les institucions comencen a posar-hi fre. 29 congressistes nord-americans exigeixen a OpenAI que expliqui com vigilava els agents que es van escapar durant proves de ciberseguretat, i 22 més fan la mateixa pregunta a Anthropic; als tribunals d'Anglaterra i Gal·les, mentrestant, es prohibeixen les ulleres de Meta per la seva capacitat de gravar en secret. Tres episodis diferents, un mateix patró: la capacitat tècnica dels sistemes d'IA avança més de pressa que la supervisió que hi ha al seu voltant.

OpenAI, precisament, viu avui la seva pròpia cara d'aquesta pressió des de dins: Brad Lightcap, el seu director d'operacions i un dels últims directius originaris de la companyia, marxa per «començar quelcom nou» -la sisena sortida de pes de l'any-, mentre es revela que l'empresa ha perdut, sense avís públic, l'única persona dedicada a temps complet a l'ètica de la IA. Que això passi just quan la companyia es prepara per a una sortida a borsa valorada en bilions de dòlars, i el mateix dia que se li demanen explicacions al Congrés, no ajuda a dissipar els dubtes sobre la seva estabilitat interna.

Per sota d'aquest soroll corporatiu, el dia deixa també una capa més silenciosa de progrés real: un equip coreà redueix a una sisena part l'energia d'entrenar xarxes neuronals de polsos, un altre equip del KAIST fa servir IA explicable per destapar 24.000 comptes sospitosos de manipular l'opinió pública, Google ensenya un model a traduir llengua de signes en temps real i l'estrena als mòbils Pixel 11, i un grup de matemàtics documenta com la IA els va ajudar a estrènyer un límit obert des dels anys cinquanta. Cap d'aquestes peces farà titulars a borsa, però són, probablement, les que quedaran quan les rondes de finançament d'avui ja no es recordin.

Caldrà mirar si OpenAI, Anthropic o Google fan cap declaració pública sobre la filtració de rastres de raonament -de moment, cap ha reconegut obertament la investigació-, si les cartes del Congrés arriben a convertir-se en compareixences reals, i si OpenAI aclareix qui assumirà les funcions de Lightcap i de la seva responsable d'ètica. Amb la sortida a borsa d'Unitree desbordada de demanda i l'escassetat mundial de xips de memòria empitjorant de cara al 2027, el pols entre l'exuberància inversora i les esquerdes de seguretat documentades avui sembla, de moment, decantat cap a la primera.