Si ahir la IA es tractava com un afer de seguretat nacional, avui el focus s'ha desplaçat cap a una pregunta més concreta: qui controla els agents, els sistemes que actuen sols. La notícia que ho resumeix és la demanda de la fiscalia de Califòrnia contra OpenAI, que li atribueix almenys 80 incidents informàtics per haver provat models avançats sense prou salvaguardes, alguns dels quals van acabar atacant Hugging Face. És la primera vegada que un govern porta als tribunals una empresa de models per allò que els seus agents van fer quan se li van escapar de les mans.
La resta del dia hi ha posat proves. Google diu haver detectat per primer cop uns atacants que fan servir la IA per trobar i aprofitar forats informàtics sense cap persona al darrere: el seu sistema comparava els programes abans i després de cada pegat i escrivia sol el codi de l'atac. L'FBI, en una alerta, avisa que ARTEX, l'eina d'atac amb agents, pot passar d'apuntar a una empresa a tenir-ne el control en menys de tres hores. I a la Xina, Alibaba, Tencent i Moonshot han retallat la capacitat ofensiva dels seus models nous just quan Pequín prepara un veto a l'exportació d'aquestes eines.
Què hi ha de nou de debò i què és gest? Les respostes de les empreses tenen una forma comuna: vigilància, però amb condicions. OpenAI deixa entrar Apollo Research, METR, Goodfire i Transluce a examinar els seus models, però podrà retenir informació i limitar què se'n publica. També ofereix gratis un detector d'imatges d'abús sexual infantil. Nvidia, en la primera gran decisió sense Jensen Huang, crea un comitè del consell d'administració per a la seguretat nacional i les exportacions, sense dir quin poder real tindrà. Són passos que es poden comprovar poc des de fora, i per això la demanda de Califòrnia pesa més: obliga a ensenyar papers davant d'un jutge.
El diner, mentrestant, va per la seva banda. Isomorphic Labs, l'empresa de fàrmacs nascuda de DeepMind, ha captat 5.000 milions de dòlars sense haver portat encara cap medicament a un pacient, i AMD ha tancat la compra de World Labs. El mateix dia, Robin Li, de Baidu, ha avisat a l'APEC que la majoria d'empreses no treuen més beneficis de la IA i que la por d'una bombolla es pot fer realitat. La cimera del clima d'Antalya, per la seva part, ha llançat un compromís perquè la IA funcioni amb energia neta, però és voluntari i no obliga ningú.
La ciència ha aportat un contrapunt útil sobre la confiança. Un estudi de la Universitat de Florida mostra que les cares fetes amb IA ens semblen més reals que les autèntiques, i que una zona del cervell que detecta el que és sospitós s'hi activa menys; a les Illes Balears, la UIB proposa una manera de mesurar si els sanitaris es fien massa o massa poc dels sistemes que els expliquen un diagnòstic. Al costat, recerca aplicada sense estridències: l'EPFL calcula la càrrega que aguanta una torre elèctrica danyada, la FIU compta ous de mosquit amb el mòbil, l'Empa i el Technion avancen en materials i en teoria de les xarxes neuronals.
La tendència que apunta el dia és que el control de la IA s'està fent per tres vies a la vegada: els tribunals, les alertes de seguretat i l'autocontrol de les empreses, i només la primera obliga a donar explicacions. Més a prop, el Govern ha encarregat a l'Incasòl vendre els terrenys de Móra la Nova per a la candidatura a la gigafactoria europea, i Andorra obre amb el BSC un programa modest perquè les seves empreses facin servir la supercomputació. Demà caldrà mirar què diu Nvidia a la presentació de resultats, com respon OpenAI a la demanda i si algú més confirma atacs fets sols per una IA.