Malgrat l'èxit dels grans models de llenguatge, els mecanismes que expliquen les seves capacitats -i els riscos que hi poden anar associats- continuen sent en bona part desconeguts. La interpretabilitat, la branca de la recerca en IA que intenta obrir aquesta caixa negra, ha crescut molt els últims anys, però encara depèn sobretot del treball manual d'investigadors especialitzats.
Un equip encapçalat per Mengru Wang i Junfeng Fang, amb disset coautors més, ha presentat "Mechanist: AI as a Scientific Instrument for Discovering the Mechanisms of Intelligence", un sistema agent que integra un graf de coneixement amb prop de 13.000 articles d'interpretabilitat, una base multidisciplinària de 43 milions de treballs científics i una biblioteca de 32 mètodes analítics per formular i posar a prova hipòtesis sobre el funcionament intern dels models.
Els autors mostren que el sistema pot identificar comportaments concrets dels models, explicar capacitats, detectar riscos de seguretat en contextos científics i esbossar una teoria de com els models arriben a formar i representar creences internes: en definitiva, fer servir la mateixa IA com a instrument per estudiar-se a si mateixa.
El treball s'ha publicat com a preprint a arXiv i els mateixos autors el marquen com a "work in progress": encara no ha passat per revisió per parells. Els resultats mostrats són demostracions de capacitat en casos concrets, no una teoria general ja validada, i caldrà veure si les hipòtesis que genera el sistema resisteixen la verificació experimental independent d'altres equips.