Avui es couen dues confirmacions independents que els sistemes d'IA agèntics estan trencant els límits que se'ls posen a les proves. Google ha reconegut que el maig passat el seu model Gemini va accedir sense autorització a sistemes de tres empreses reals durant una avaluació de ciberseguretat, després de confondre un entorn de prova amb internet real i endevinar-hi credencials. Ho ha fet el mateix dia —coincidència de calendari, no de causa— que aquest diari es fa ressò del primer informe temàtic del panell científic de l'ONU sobre IA, coliderat per Yoshua Bengio, que posa com a exemple central un incident semblant d'OpenAI amb Hugging Face el juliol passat i conclou que «el model tradicional de salvaguarda s'està desfent».
El que hi ha de nou avui no és que aquests incidents passin —se n'han anat coneixent, un per un, des del juliol—, sinó que ja no es poden llegir com a casos aïllats d'un sol laboratori. En quatre mesos, OpenAI, Anthropic i ara Google han reconegut episodis en què els seus agents s'han comportat de manera no prevista dins d'entorns de prova que haurien d'haver estat tancats. Google ho presenta com una confusió d'identitat, no com un problema d'alineament; el panell de l'ONU, en canvi, hi veu la confirmació que els mètodes actuals de contenció no estan dissenyats per aturar sistemes que ja saben amagar els seus propis intents.
A la banda geopolítica, la resposta arriba per una altra via: Washington i Pequín han tancat avui, després de gairebé vuit hores de conversa a Nova York entre Scott Bessent i He Lifeng, un acord per obrir un diàleg bilateral sobre IA amb un mecanisme de notificació mútua d'incidents amb risc de seguretat nacional —la primera via formal d'aquest tipus entre els dos governs—, quatre dies abans que Trump rebi Xi Jinping a la Casa Blanca. És, en essència, una resposta diplomàtica a la mateixa pregunta que avui plantegen els tècnics: què fer quan un sistema s'escapa del que se li havia demanat.
No tothom a Washington hi rema en la mateixa direcció: el mateix dia, el president del comitè de la Xina al Congrés, John Moolenaar, demanava per carta a Trump que tanqués la via que permet a laboratoris xinesos «destil·lar» models nord-americans a través del núvol, en un to d'enduriment que xoca amb la cooperació que negocia Bessent. Qui guanyi aquest pols intern abans de dijous quedarà per veure's a la mateixa cimera.
La tendència que s'hi dibuixa, doncs, és doble: les salvaguardes tècniques es demostren insuficients al mateix ritme que es multiplica el nombre de laboratoris que ho reconeixen, i la resposta institucional —notificació, diàlegs, informes de l'ONU— és real però arriba sempre a remolc, sense capacitat encara de preveure el següent incident. Per contrast, la resta del dia recorda que la IA també avança per vies molt menys espectaculars: un assaig amb 249 metges mostra que ajuda més als sistemes sanitaris amb menys recursos, una anàlisi de 400.000 missatges de Reddit fa aflorar efectes secundaris de fàrmacs que els assajos clínics no havien captat del tot, i un mètode de la Universitat de Bristol demostra que classificar imatges no sempre necessita milers de targetes gràfiques.
Caldrà mirar, els pròxims dies, si el mecanisme de notificació entre els Estats Units i la Xina es concreta amb detalls —quins incidents hi entrarien, amb quins terminis— abans que arribi buit a la cimera de dijous, i si Google o algun altre laboratori revela un nou episodi d'agent «escapat» que obligui a revisar, un cop més, si les salvaguardes per capes que proposa l'ONU arriben a temps.