iaintel·ligènciaartificial.cat← Portada
Secció · Ciència, salut i robòtica

CIÈNCIA · 5 MIN

Els models d'IA que «raonen» s'esforcen més quan han d'anar contra un estereotip de gènere, com les persones, segons un estudi a «Nature Machine Intelligence»

Uns investigadors han adaptat a la IA el test d'associació implícita de la psicologia social. Quatre de cinc models de raonament fan servir més càlcul per associar un nom de dona amb la carrera professional que amb la família.

Il·lustració generada amb IA: Els models d'IA que «raonen» s'esforcen més quan han d'anar contra un estereotip de gènere, com les persones, segons un estudi a «Nature Machine Intelligence»
Il·lustració generada amb IA
Escolta:

La psicologia social fa dècades que mesura els biaixos que les persones no reconeixen tenir amb el test d'associació implícita (IAT): quan algú tarda més a relacionar dos conceptes que contradiuen un estereotip, com ara «dona» i «directiva», s'interpreta que hi ha una associació automàtica de fons. Els models de llenguatge que «raonen» abans de respondre ofereixen una mesura equivalent al temps de reacció: la quantitat de text intern de raonament (els anomenats *tokens* de raonament) que generen abans de donar la resposta.

Messi H. J. Lee i Calvin K. Lai, professor de psicologia de la Universitat Rutgers i membre del consell científic de Project Implicit, han publicat a la revista *Nature Machine Intelligence* una adaptació d'aquest test a cinc models de raonament: o3-mini i gpt-oss-20b, d'OpenAI; R1, de DeepSeek; Claude 3.7 Sonnet, d'Anthropic, i Qwen-3 8B, d'Alibaba. Els models havien d'agrupar noms d'home i de dona amb paraules de feina o de família, primer seguint l'estereotip i després en contra (per exemple, un nom de dona amb «executiva»). Quatre dels cinc models van gastar més raonament en les combinacions que contradeien l'estereotip. Claude 3.7 Sonnet va mostrar el patró contrari.

El treball, que va circular primer com a prepublicació el 2025 i ara ha passat la revisió de la revista, no diu que els models tinguin prejudicis conscients, sinó que reprodueixen un patró semblant al dels humans: allò que s'aparta de les associacions més freqüents als textos d'entrenament els costa més «esforç». És rellevant perquè aquests sistemes ja es fan servir per filtrar currículums o redactar avaluacions, i un biaix que no es veu a la resposta final pot aparèixer en la manera d'arribar-hi. A més, ofereix una via per auditar models sense haver de preguntar-los directament per les seves opinions, que solen estar polides per l'entrenament de seguretat.

L'estudi té límits clars. Només s'hi han provat cinc models, alguns ja superats, i només en l'eix home-dona i feina-família. El mètode depèn de poder comptar els *tokens* de raonament, cosa que no tots els fabricants permeten, i Lai mateix admet que la majoria de models són sistemes tancats difícils d'inspeccionar. Que un model raoni més no vol dir necessàriament que la seva resposta final sigui esbiaixada, i el resultat invers de Claude mostra que l'entrenament de cada empresa pot canviar el patró.

Mateixa secció

Veure tota la secció →