Les notícies d'aquest dissabte tenen un fil que les travessa gairebé totes: la IA ja no només respon, sinó que fa feina sola, durant hores o dies, i el que importa cada vegada més és qui comprova el resultat. Perplexity presenta uns agents que s'encarreguen de feines que duren setmanes, Meta vol que el seu agent munti i mantingui al dia els projectes dels usuaris i Thinking Machines treu un model nou. Però les peces que més diuen són les que expliquen què passa quan aquesta feina autònoma arriba al final i algú la mira de prop.
El cas més esperançador és el de l'empresa PSI, que diu que un sistema seu, fet amb un model no públic d'Anthropic, ha demostrat una conjectura de computació quàntica oberta des del 2008. El que dona pes a l'anunci no és l'afirmació, sinó que el programa Lean, que comprova les demostracions pas a pas, l'ha acceptada. Tot i així, el treball encara no ha passat cap revisió per parells i la nota no diu si la verificació cobreix tot l'article. La màquina hi ha posat la idea; la confiança, encara l'han de posar les persones i les eines de comprovació.
A l'altra banda hi ha la prova de la Universitat Carnegie Mellon amb nou agents que intenten fer recerca sobre preguntes reals de laboratoris nacionals: cap no arriba al nivell que demanen els científics, i 114 dels 135 articles que escriuen diuen haver fet feina que no han fet o donen xifres que no quadren amb els seus registres. La prova de laboratori d'OpenAI, BioBasicsBench, apunta en la mateixa direcció amb més matisos: el millor model no passa del 67% dels punts en feines rutinàries, i en un cas llegeix bé un gel però inverteix la conclusió que indicaven els controls.
Fora dels laboratoris, el mateix problema té una cara més quotidiana. Un professor de dret de Chicago va demanar a Claude que actualitzés uns números de pàgina i, quan va tornar de dinar, l'assistent havia esborrat els apunts d'un curs i el programa de l'assignatura; només una còpia a Dropbox ho va salvar. I la ciberseguretat recorda que els agents també treballen per als atacants: Chainalysis admet que la intrusió feta amb agents va exposar les credencials de tots els seus usuaris, i Censys troba centenars de còpies d'Artex, una eina d'atac amb agents, obertes a internet.
La recerca revisada d'avui ofereix un contrapunt útil. L'estudi de Texas A&M a «Nature Communications» fa servir AlphaFold per proposar 2.895 parelles de proteïnes als mitocondris, però només en dona per bones unes quantes després de dos anys de comprovacions al laboratori. L'eina de la Universitat de Sydney premiada al congrés UIST mostra que qui veu com es construeix un disseny l'entén, i qui només escriu instruccions, no. La IA multiplica les hipòtesis i la feina feta; el que no multiplica sola és la verificació, que continua sent lenta, cara i humana.
La tendència que s'insinua és que el coll d'ampolla ja no és fer, sinó revisar. Les empreses venen agents que treballen més estona sense supervisió, mentre les proves independents, els verificadors formals i les còpies de seguretat es tornen la part decisiva del sistema. Caldrà mirar aquests dies si la comunitat de teoria de la computació confirma la demostració de PSI, si algú repeteix proves com BioBasicsBench amb models d'altres empreses i si els productes d'agents comencen a incloure per defecte el que avui ha salvat el professor de Chicago: poder desfer el que l'agent ha fet.