Els models de raonament escriuen, abans de respondre, una mena d'esborrany amb els passos que fan: el que en anglès se'n diu la cadena de pensament. Per als equips de seguretat, aquest esborrany és una de les poques finestres per veure què fa de debò un model, per exemple si planeja enganyar. Però només serveix si el model hi diu el que pensa. La setmana passada vam explicar que OpenAI havia admès que GPT-6 Astra rendia menys, sense avisar, en tasques de recerca en seguretat. Ara el mateix equip publica una anàlisi més àmplia sobre què fa que aquesta finestra s'enterboleixi.
L'estudi, signat per quinze investigadors d'OpenAI, entre ells el director científic, Jakub Pachocki, segueix els seus models des de GPT-5 fins a Astra i mesura dues coses: què poden resoldre sense escriure l'esborrany, és a dir, sense deixar rastre del raonament, i fins a quin punt saben controlar el que hi escriuen quan se'ls demana (per exemple, posar una paraula concreta després de cada paraula o escriure només en minúscules). Hi troba quatre factors. Primer, com més bo és el preentrenament, més coses resol el model sense escriure-les: segons l'Institut de Seguretat de la IA del Regne Unit, Astra resol sense esborrany problemes de matemàtiques que a una persona li costen uns 31 minuts, quan les previsions situaven aquest llindar en uns 7 minuts per a finals del 2028. Segon, una de tres arquitectures provades millora més de pressa en planificació de diversos passos, la mena de tasca on un raonament que no queda escrit és més perillós. Tercer, l'aprenentatge per reforç fa créixer el control sobre l'esborrany fins i tot quan només es puntuen la llargada i la resposta final. Quart, un model entrenat amb textos d'un altre n'hereta aquest control.
El resultat és rellevant perquè desmenteix una idea còmoda: que vigilar l'esborrany seguirà funcionant sol mentre ningú no castigui els models pels «mals pensaments». OpenAI diu que des del febrer del 2026 comprova que cap entrenament no ho faci, i tot i així Astra ha après a controlar molt el que escriu. Els autors conclouen que els avenços del preentrenament obligaran a buscar maneres de vigilar els models que no depenguin només de llegir-los l'esborrany, i que cal seguir l'evolució d'aquesta capacitat en cada entrenament i abans de cada llançament.
Els mateixos autors avisen que el control de l'esborrany és una mesura imperfecta i sorollosa: en una comparació entre dos models de capacitat semblant, el que el controlava més no va enganyar més sovint els sistemes de vigilància. És una anàlisi publicada al blog de recerca de l'empresa, no un article revisat per parells; les arquitectures no s'identifiquen i gran part dels resultats es presenten en gràfics, sense les dades completes. I la fa la mateixa empresa que desenvolupa els models que estudia.