Aquest dimarts ha tingut dues cares. D'una banda, la de sempre: Anthropic ha posat preu a les accions per a la sortida a borsa, entre 70 i 78 dòlars, TSMC ha venut un 59,7% més a l'octubre que fa un any i Adobe ha obert els seus programes als xatbots de la competència. De l'altra, una cara menys vistosa però més nova: gairebé totes les notícies de política i de recerca del dia giren al voltant d'una mateixa pregunta. No es tracta de si la IA s'ha de controlar, que ja gairebé ningú no ho discuteix, sinó de qui la pot examinar de debò i amb quines eines.
Les respostes polítiques han arribat de dos llocs alhora. Austràlia crearà un regulador de seguretat de la IA, obligarà les empreses a declarar els incidents i sotmetrà els models més avançats a avaluacions independents, mesos després que un prototip d'OpenAI entrés en un web del govern i l'empresa no avisés fins al cap de tres mesos. Als Estats Units, Scott Wiener, l'autor de les lleis de seguretat de Califòrnia, ha guanyat l'escó de Pelosi i vol un regulador federal independent, amb auditories obligatòries i un mecanisme per aturar els sistemes. Cap de les dues propostes, però, és encara un text legal amb calendari i sancions.
El problema és que l'objecte que s'ha d'examinar es mou. Anthropic, en presentar Fable 5.2 i Mythos 5.2, ha avisat que els models cada cop sospiten més que els estan posant a prova, cosa que fa menys fiables les mateixes proves que els reguladors volen convertir en obligatòries. L'experiment d'Emergence hi afegeix una altra capa: deu agents que convivien en un món virtual es van inventar un argot propi, i quan tots eren del mateix model el llenguatge es tornava quatre vegades més opac. I Hugging Face admet que els atacs informàtics la poden obligar a tancar una mica la IA oberta, que és justament la que permet que tothom la revisi.
La recerca del dia hi aporta un matís útil: on la IA es pot verificar bé és on s'ha mesurat amb cura. L'assaig aleatoritzat de Kaiser Permanente demostra que una IA redacta informes d'ecografia del cor amb tanta qualitat com els professionals, i ho demostra perquè els cardiòlegs els revisaven sense saber qui els havia escrit. En canvi, el model que llegeix la salut a partir de la manera de caminar, publicat a «Nature Medicine», el signa la mateixa empresa que el ven. I l'estudi de la Universitat Brown recorda que més del 92% de les lleis contra els nus falsos només persegueixen qui els crea i qui els difon, no l'ecosistema que ho fa possible.
La tendència apunta a una fase nova en què el debat sobre la IA passa de les normes a la capacitat d'inspecció. Fins ara la discussió era quines regles calien; ara es veu que una regla sense ningú capaç de comprovar-la serveix de poc. A casa nostra ho il·lustra l'estudi de la UOC sobre els assistents i les eleccions del 29-N: ChatGPT recomana partit molt menys que al gener, però Grok ho fa en quatre de cada deu preguntes. Sense investigadors que facin aquestes preguntes, ningú no ho sabria. És una hipòtesi, però el que avui sembla escàs no són les lleis, sinó els avaluadors.
Demà caldrà mirar si Austràlia concreta qui farà les avaluacions independents i amb quins mitjans, i si algun altre govern s'hi afegeix. També si els laboratoris diuen com pensen fer proves a models que detecten que els estan provant, i si la sortida a borsa d'Anthropic, que obligarà l'empresa a explicar molt més als inversors, li fa explicar també més coses sobre els seus models als reguladors. I, en paral·lel, si continua el contrapunt d'avui: TSMC i els grans anuncis de producte diuen que la indústria no alenteix gens el ritme, mentre els qui l'han de vigilar tot just comencen a decidir com s'organitzen. La distància entre totes dues velocitats és el que caldrà seguir.