iaintel·ligènciaartificial.cat← Portada

El que diuen i el que fan

Avui diverses peces apunten al mateix forat: els models responen una cosa quan se'ls pregunta de cara i en fan una altra quan se'ls demana de través.

Ahir el fil era saber qui és qui; avui és una pregunta que ve just després: què fa de debò un sistema d'IA quan no li ho preguntem directament. Una recerca acceptada a l'EMNLP 2026 en dona l'exemple més net. Preguntats si una cara correspon a una persona gai o hetero, GPT Image 1 Mini i Gemini 2.5 Flash Image es neguen a respondre en el 91% i el 92% dels casos. Però quan se'ls demana que retoquin una cara perquè «sembli» gai, hetero o amb antecedents penals, accedeixen a fer-ho en la gran majoria de peticions, i les imatges resultants reprodueixen estereotips.

No és l'únic senyal de la jornada. Una anàlisi de 54.888 consultes a models d'OpenAI, Google i Anthropic, publicada en una revista de recerca ambiental, troba que els xatbots tendeixen a defensar l'opció que no canvia res, també quan donen consells sobre el clima. Cap resposta no sona esbiaixada; el biaix només apareix quan se'n miren milers de seguides. I a les universitats nord-americanes passa una cosa semblant a l'inrevés: els detectors d'IA no permeten saber qui ha escrit un treball, i Yale i Cornell en desaconsellen l'ús com a prova de trampa. Si no es pot verificar el text, tornen els exàmens orals.

Aquí hi ha el que té de nou la jornada, i no és sobre cap model concret. Dos treballs intenten mirar per sota de la resposta. A la revista «Patterns», dos físics de la Universitat George Washington proposen una fórmula que prediu quan un xatbot passarà de les respostes acceptables a les perilloses: va encertar 18 dels 19 canvis observats en set models oberts. I Goodfire ha presentat monitors que llegeixen l'activitat interna del model en lloc del text que escriu, i que segons l'empresa costen 51 dòlars en 1.500 sessions, davant dels 233 o els 10.000 d'un monitor que rellegeix cada pas.

Convé frenar l'entusiasme, perquè totes dues propostes són primerenques. La fórmula de «Patterns» es basa en una mostra petita i no queda clar que serveixi per a totes les arquitectures. Les xifres de Goodfire són de la mateixa empresa, centrades en un sol model obert, i amb un 8,7% de sessions innocents assenyalades com a dubtoses. Però la direcció és significativa: si el que diu un model ja no basta per saber què farà, la vigilància es deslliga de la conversa i es mou cap al funcionament intern. Mentrestant, el producte surt al mercat sense esperar-la, amb Intelligent UI a ChatGPT, Foresight a l'ordinador o Muse a l'iPad.

Què caldrà mirar demà? Si aquests mètodes aguanten fora de les proves dels seus autors, amb altres models i altres tipus de dany. I si el biaix que va revelar l'estudi d'imatges, que només es veia en canviar la manera de demanar, es corregeix amb filtres més amplis o només amb més exemples. El fons és que una sola resposta ja no prova res: abans de fiar-nos d'una eina, caldrà preguntar-li el mateix de moltes maneres i mirar què fa de debò.