Els anomenats models de raonament —que generen una cadena de passos explícits abans de respondre, com o3-mini o DeepSeek-R1— s'han presentat sovint com una via cap a una IA més transparent, perquè permeten veure «com pensa» el sistema abans d'arribar a una conclusió. Quedava per saber si aquesta transparència real serveix també per detectar-hi biaixos que als models de caixa negra només es podien mesurar per la resposta final.
Messi H. J. Lee, de la Washington University in St. Louis, i Calvin K. Lai han publicat a Nature Machine Intelligence l'1 de setembre l'article «Implicit-bias-like patterns in reasoning models», en què adapten a la IA el test d'associació implícita (IAT) que la psicologia cognitiva fa servir en persones des de fa dècades: en lloc del temps de resposta humà, mesuren el nombre de fitxes de raonament que el model gasta per resoldre una tasca, com a indicador del seu «esforç» computacional. Aplicat a quatre models —o3-mini, DeepSeek-R1, gpt-oss-20b i Qwen3-8B—, el mètode (que anomenen RM-IAT) troba un patró consistent: les tasques que contradiuen un estereotip («incompatibles amb l'associació») exigeixen més fitxes de raonament, és a dir més esforç, que les que hi són compatibles. Dit d'una altra manera, per a la majoria de models processar un estereotip surt «més barat» que processar-ne l'excepció. L'excepció és Claude 3.7 Sonnet, que mostra el patró invertit; una anàlisi temàtica de les seves pròpies traces de raonament ho vincula al fet que aquest model dedica part explícita del seu raonament intern a reflexionar sobre biaixos i estereotips.
La investigació aporta una metodologia nova al camp de l'auditoria de la IA: en lloc de jutjar només si la resposta final és o no discriminatòria, permet detectar senyals de biaix en el mateix procés intern de raonament, encara que la resposta que acaba donant el model sembli neutra. És un recordatori que la cadena de raonament visible no és necessàriament una finestra neta a com «pensa» el model, sinó que pot arrossegar els mateixos automatismes que els sistemes de caixa negra.
L'estudi es limita a quatre models de mida i procedència diverses, i el nombre de fitxes de raonament és una mesura indirecta d'«esforç» l'equivalència de la qual amb l'esforç cognitiu humà és una analogia metodològica, no una identitat causal demostrada; el comportament diferent de Claude 3.7 Sonnet, en particular, necessitaria replicar-se en altres models de la mateixa família abans de generalitzar-ne l'explicació.