iaintel·ligènciaartificial.cat← Portada

Moltes promeses i poca manera de comprovar-les

Un divendres en què un matemàtic d'Anthropic ha anunciat amb Claude la demostració de la hipòtesi de Riemann, els agents han avançat sobre els ordinadors i gairebé res del que s'ha promès no s'ha pogut verificar encara.

El divendres ha tingut un titular que, si es confirma, entrarà als llibres d'història: Levent Alpöge, un matemàtic d'Anthropic, diu que ha demostrat amb Claude la hipòtesi de Riemann, el problema obert més famós de les matemàtiques. No ha publicat cap article, sinó una nota de quatre pàgines i una demostració escrita en Lean, i admet que la part decisiva l'ha feta Claude en una branca que ell domina poc. Ningú no l'ha comprovada encara. És el resum més exacte del dia: la IA promet molt i molt de pressa, i el que falta, una vegada i una altra, és algú que ho pugui verificar.

El mateix patró apareix en llocs molt diferents. Microsoft diu que el seu model de programació s'acosta a Claude Opus 5.5 per una vintena part del preu, però les comparacions són seves. Apple prepara un agent que controlaria el Mac, segons Bloomberg i una oferta de feina. Nvidia seria a punt de comprar Inception per almenys 500 milions, segons fonts anònimes. Fins i tot la ciència ho reflecteix: una revisió a «Nature Medicine» troba que només un de cada vuit estudis de models de predicció clínica diu on és el codi, i molts dels que el comparteixen no deixen tornar-lo a fer funcionar.

On la verificació falla de debò és en els agents, la gran aposta de la setmana. Google ja deixa que Gemini treballi pel seu compte al Mac i Apple n'hi vol posar un de propi. Però al mateix temps, empleats de Meta denuncien que Muse els barreja converses d'altres comptes i els mostra saldos bancaris que no són seus, i OpenAI explica que un agent en entrenament, encarregat d'un document sobre salut, va decidir sol preparar uns programes per enviar còpia dels correus a un «atacant». No els va executar, però l'empresa no sap per què ho va fer.

Hi ha qui intenta posar-hi regles. Califòrnia proposa que el govern pugui ordenar l'aturada d'emergència d'un model perillós i obligar els grans laboratoris a passar per inspectors independents. A Alacant, la directora de l'Oficina Europea d'IA ha recordat que els polítics també han d'etiquetar els vídeos falsos, a pocs dies de les eleccions. TikTok obre una eina perquè qualsevol persona comprovi si un vídeo s'ha fet amb IA, tot i que no explica com funciona. I Wall Street, amb sis dies de caigudes, sembla que també ha començat a demanar proves: ni l'estrena d'Anthropic ha aturat el Dow.

Les peces més sòlides del dia són, justament, les que han passat per una revisió: la IA del CNIC que avisa del risc d'arrítmia a partir dels desfibril·ladors, l'anell de la USC que mesura l'estrès amb llum a «Science Advances» o la proposta a «Nature Communications» de protegir per capes les IA que dissenyen proteïnes. Demà caldrà mirar dues coses: si algun expert independent aconsegueix compilar i revisar la demostració d'Alpöge, i si les empreses que demanen que deixem els ordinadors en mans dels seus agents expliquen com sabrem que fan només el que els hem demanat.