Els models de llenguatge que «raonen» abans de respondre —generant llargues cadenes de passos intermedis— solen aplicar el mateix esforç de còmput a qualsevol pregunta, per senzilla o difícil que sigui, cosa que encareix la inferència sense necessitat quan el problema no ho requereix. Trobar la manera que un model decideixi per si sol quant ha de «pensar» abans de contestar és un dels reptes oberts per fer la IA de raonament més eficient.
Gijs Kassenaar, Zhao Yang i Vincent François-Lavet —aquest últim professor a la Vrije Universiteit Amsterdam— van publicar el 20 d'agost a arXiv «Learning When to Think: Adaptive Reasoning for Test-Time Compute Allocation», un mètode que entrena un model destil·lat d'1.500 milions de paràmetres perquè triï, abans de començar a respondre, entre tres maneres de raonar: «NoThink» (resposta ràpida sense cadena de raonament), «Short» (raonament concís) i «Long» (raonament estès). Amb el conjunt de dades MATH, el model així entrenat va mantenir una precisió gairebé idèntica a la del model original (0,782 enfront de 0,796 sobre MATH500) mentre reduïa la longitud mitjana de les respostes de 4.796 a 2.811 tokens, un estalvi del 41%; en una prova de transferència amb el conjunt GSM8K, la reducció de tokens va arribar al 76%, i fins i tot va millorar la precisió. Els autors expliquen que les tres maneres de respondre van sorgir de manera natural durant l'entrenament amb optimització de política relativa de grup (GRPO) i recompenses dissenyades amb límits de tokens, sense que ningú assignés a mà quina pregunta mereixia quin tipus de resposta.
El resultat és rellevant perquè apunta a una manera concreta de reduir el cost de la inferència —un dels grans problemes econòmics dels models de raonament actuals— sense haver de triar entre un model «ràpid i mediocre» i un altre «lent i precís»: el mateix model aprèn a distingir quins problemes exigeixen esforç i quins no, i hi assigna els recursos en conseqüència.
És un preprint encara no revisat per experts, provat en un sol model de mida relativament petita (1.500 milions de paràmetres) i destil·lat, principalment sobre problemes matemàtics; caldrà comprovar si els mateixos estalvis de còmput es repliquen en models més grans i en tasques de raonament d'altres dominis abans de considerar-lo un mètode general.