iaintel·ligènciaartificial.cat← Portada

CIÈNCIA · 4 MIN

Un equip internacional presenta Mechanist, un sistema d'IA agent per investigar per què els grans models fan el que fan

El preprint, penjat aquesta setmana a arXiv, combina un graf de coneixement de 13.000 articles d'interpretabilitat amb una base de 43 milions de treballs i 32 mètodes analítics per generar i verificar hipòtesis sobre el comportament intern dels models de llenguatge.

Il·lustració editorial de Un equip internacional presenta Mechanist, un sistema d'IA agent per investigar per què els grans models fan el que fan
Escolta:

Malgrat l'èxit dels grans models de llenguatge, els mecanismes que expliquen les seves capacitats -i els riscos que hi poden anar associats- continuen sent en bona part desconeguts. La interpretabilitat, la branca de la recerca en IA que intenta obrir aquesta caixa negra, ha crescut molt els últims anys, però encara depèn sobretot del treball manual d'investigadors especialitzats.

Un equip encapçalat per Mengru Wang i Junfeng Fang, amb disset coautors més, ha presentat "Mechanist: AI as a Scientific Instrument for Discovering the Mechanisms of Intelligence", un sistema agent que integra un graf de coneixement amb prop de 13.000 articles d'interpretabilitat, una base multidisciplinària de 43 milions de treballs científics i una biblioteca de 32 mètodes analítics per formular i posar a prova hipòtesis sobre el funcionament intern dels models.

Els autors mostren que el sistema pot identificar comportaments concrets dels models, explicar capacitats, detectar riscos de seguretat en contextos científics i esbossar una teoria de com els models arriben a formar i representar creences internes: en definitiva, fer servir la mateixa IA com a instrument per estudiar-se a si mateixa.

El treball s'ha publicat com a preprint a arXiv i els mateixos autors el marquen com a "work in progress": encara no ha passat per revisió per parells. Els resultats mostrats són demostracions de capacitat en casos concrets, no una teoria general ja validada, i caldrà veure si les hipòtesis que genera el sistema resisteixen la verificació experimental independent d'altres equips.

Mateix tema

CIÈNCIA · 5 MIN

Un estudi a PNAS troba que les sol·licituds de recerca escrites amb ajuda d'IA tenen més probabilitats de rebre finançament del NIH, però s'assemblen més al que ja s'havia finançat

Investigadors de la Kellogg School of Management de la Northwestern analitzen milers de sol·licituds i detecten que els senyals d'ús de models de llenguatge s'associen a un 4% més de possibilitats d'obtenir finançament del NIH, amb menys originalitat semàntica respecte al que ja s'havia finançat; a la NSF no troben cap efecte significatiu.

Butlletí de dissabte

La setmana d’IA, en cinc minuts.