iaintel·ligènciaartificial.cat← Portada

El dia en què la IA es va posar a prova a si mateixa i va suspendre

Entre un informe de seguretat que cap laboratori aprova i un estudi que destapa com s'inflen les millores d'un model, avui el fil és la distància entre el que la indústria de la IA diu que fa i el que es pot verificar de debò.

Avui diverses notícies aparentment separades han convergit en una mateixa pregunta: es pot confiar en el que els laboratoris d'IA i les empreses que en depenen diuen sobre els seus propis sistemes? Guidelight AI Standards ha publicat la primera avaluació independent de com Anthropic, OpenAI, Google, xAI i Meta controlen realment els seus models per dins, i cap de les cinc supera una «implementació parcial substancial» en cap de les sis pràctiques bàsiques que hauria de garantir-ho. El mateix dia, un altre estudi ha mostrat que els mètodes habituals per mesurar si un model «s'ha après a millorar sol» poden inventar-se progressos allà on no n'hi ha cap.

Aquest segon treball, «Phantom Gains», ha auditat tres rondes d'autoentrenament sobre un model xinès i hi ha trobat set errors de mesura diferents: amb el mètode habitual, fins i tot un model que no s'ha entrenat gens sembla haver millorat. En paral·lel, investigadors del MIT han publicat a Nature Communications una manera de simular què passaria si es retirés una imatge concreta de les dades d'entrenament d'un generador d'imatges, i troben que l'efecte d'una sola obra sol ser pràcticament nul quan el conjunt de dades és gran, cosa que posa a prova un dels arguments centrals de moltes demandes per drets d'autor. Tots dos estudis comparteixen un mateix gest: construir una prova rigorosa allà on abans només hi havia l'afirmació d'una empresa o d'un demandant.

No tot el que s'ha publicat avui és igual d'incert. Nvidia ha detallat com AVO, una arquitectura d'agents pensada originalment per optimitzar codi de GPU, ha arribat al 100% del benchmark ARC-AGI-3 mentre el mateix model que la fa funcionar per sota, sol, només hi arriba a un 30%: una millora atribuïble a com s'organitza l'agent, no a un model més gran, i documentada amb xifres concretes de nivells i accions. El contrast és útil: mentre AVO mostra un guany real i mesurable, la start-up britànica de xips Fractile ha multiplicat per sis la seva valoració, fins als 6.500 milions de dòlars, basant-se en un contracte amb Anthropic per a un xip que encara no s'ha fabricat ni té cap prova independent de rendiment.

La mateixa desconfiança que alimenta els auditors de seguretat i els revisors de mètodes també ha arribat avui al llenguatge dels directius. Axios documenta com caps com Marc Benioff, que fa un any presumien obertament d'acomiadaments atribuïts a la IA, ara en reneguen en públic —«és massa fàcil convertir la IA en cap de turc», diu ell mateix—, just quan un 61% dels nord-americans creu que la intel·ligència artificial es traduirà en menys oportunitats econòmiques. La reorganització, però, és real i mesurable: dades de CBRE mostren Nova York superant per primer cop la badia de San Francisco en llocs de treball tecnològics, empesa per la contractació d'IA al sector financer, mentre Apple retalla plantilla a Vision Pro i Siri per redirigir-la cap a les seves apostes d'IA.

El fil que travessa el dia, doncs, no és que la IA avanci o no —els agents que resolen tasques noves, els mètodes que estalvien còmput i els sistemes que descobreixen biomarcadors de salut a partir de dades de rellotges intel·ligents demostren que sí, i amb metodologia i xifres verificables al darrere—, sinó que el marge entre aquest progrés real i les afirmacions que l'acompanyen (de seguretat, d'autosuperació, d'atribució, de xips encara inexistents, d'acomiadaments) s'ha tornat prou ampli perquè auditors independents, investigadors i fins i tot els mateixos directius se sentin obligats a posar-lo en dubte en públic.

Demà caldrà mirar si algun dels cinc laboratoris avaluats per Guidelight respon amb canvis concrets o simplement deixa passar l'informe, i si Fractile comença a mostrar cap prova tangible del seu xip abans que la pròxima ronda de finançament es tanqui del tot. També valdrà la pena seguir si el gir discursiu dels directius sobre IA i acomiadaments es generalitza a mesura que arribin més retallades associades a la tardor, o si es queda en un gest puntual de gestió de la reputació.