Els models de llenguatge petits, els que caben en un dispositiu modest, s'equivoquen sovint en tasques que tenen una resposta exacta, com una suma o una deducció lògica. Fer-los córrer en un aparell amb poca memòria, per exemple per mantenir les dades lluny del núvol, ha obligat fins ara a acceptar aquesta fiabilitat limitada.
Un preprint d'arXiv proposa un encaminador neurosimbòlic: un petit autòmat, après amb l'algorisme d'inferència gramatical L*, classifica cada consulta i l'envia al «solucionador correcte més barat». Les tasques deterministes van a motors simbòlics, i les obertes al model de llenguatge. A la Raspberry Pi 4B, amb 8 GB de memòria i sense GPU, els autors informen d'un encaminament correcte al 100% i d'una exactitud global del 98,3% (93,3% només en problemes redactats).
La comparació és el que dona pes al resultat: la millor alternativa, el mètode Program-of-Thought, es va quedar en el 72,0%, i un agent que crida eines en el 58,7%. L'encaminador va ser 8,8 cops més ràpid i 2,8 cops més eficient en energia, amb respostes d'entre 1 i 11 mil·lisegons per a les consultes amb format. Si es confirma, és una via per portar raonament fiable a dispositius on la privacitat importa.
Convé llegir-ho amb cautela. És un preprint, sense revisió per parells, i les proves són només 100 consignes noves extretes de DeepMind Mathematics, GSM8K i RuleTaker, amb un límit de 512 fragments de raonament. No sabem com es comportaria amb preguntes fora d'aquests tipus, i l'encaminador només funciona bé mentre les consultes encaixin en categories que el sistema ja sap reconèixer.