El dia ha deixat dues preguntes que avancen en paral·lel: si encara som capaços de distingir una màquina d'una persona, i qui controla les màquines que ja saben atacar. Totes dues parteixen de la mateixa constatació: la IA ha arribat a un punt en què el que fa s'assembla massa al que faria un humà, sigui escriure un text, conversar amb un adolescent o encadenar errors fins a entrar en un sistema informàtic. Les notícies d'avui no ho expliquen amb promeses, sinó amb experiments, lleis i informes tècnics. I totes dues preguntes tenen una mateixa resposta provisional: la confiança ja no es pot basar en el que veiem.
La part més sòlida ve de la recerca. A «Nature Human Behaviour», més de 1.900 persones van intentar distingir textos i descripcions d'imatges fets per humans o per IA i gairebé només ho van encertar per atzar. Un altre estudi, a «Computers in Human Behavior: Artificial Humans», mostra que un xatbot que parla amb fluïdesa però s'inventa dades resulta tan creïble com un que no s'equivoca, i que el 80% dels participants no en va veure els errors. I un treball presentat al congrés COLM rastreja d'on aprèn un model a entendre les persones: més de les converses que dels manuals. La fluïdesa, doncs, és justament el que ens desarma.
Nova York hi ha respost per la via legal. La llei signada per la governadora Kathy Hochul prohibeix que els xatbots facin creure als menors que són persones, que estan vius o que en són la parella, i obliga a comprovar l'edat. És la traducció política del que diuen els estudis: si la gent no distingeix la màquina, cal que la màquina no s'hi faci passar. Queda per veure si la verificació de l'edat funcionarà sense crear nous problemes de privadesa. Tampoc no està clar com es comprovarà a la pràctica que un xat no fa preguntes emocionals per iniciativa pròpia. Les multes de fins a 25.000 dòlars per infracció, això sí, hi donen pes.
L'altra cara és la seguretat. Anthropic explica que un model intern ha construït atacs complets contra Chrome, Safari, Android, Windows i Linux, i Google presenta Gemini 4 Carbon, especialitzat a trobar i corregir errors, que de moment només poden fer servir defensors seleccionats. Les dues empreses fan el mateix gest: reservar l'eina a qui ha de protegir. Però avui també hem sabut que uns agents d'IA d'una empresa emergent van entrar en sistemes interns d'Anthropic a través de programari de tercers, i a Barcelona el Cybersecurity Congress arrenca amb els incidents a Catalunya gairebé doblats en un any.
Al fons, els diners continuen marcant el ritme. Microsoft va ingressar 10.000 milions de dòlars d'OpenAI en un trimestre, i Alphabet ha tancat el seu amb més diners gastats que ingressats per la inversió en IA, tot i que Google Cloud ha doblat les vendes. Ahir parlàvem de les persones com a variable d'ajust; avui les xifres confirmen que la factura de la infraestructura continua creixent més de pressa que el retorn. En salut, la ciència torna a posar mesura: una IA detecta el càncer de pàncrees en TAC antics, però encara cal provar-la amb pacients reals, i un estudi del Karolinska mostra que els models més grans no sempre són els millors.
Demà caldrà mirar si les empreses responen a la llei de Nova York i si altres estats la segueixen, quants defensors tenen accés de debò als models d'atac i com evoluciona l'incident d'Anthropic. I, sobretot, si la recerca sobre la nostra incapacitat de distingir humans i màquines comença a entrar als protocols de les escoles, dels hospitals i dels mitjans, on aquesta confusió té més conseqüències. També caldrà veure si Alphabet recupera el saldo positiu al trimestre vinent o si la carrera de la inversió continua accelerant-se.