La major part del debat sobre seguretat de la intel·ligència artificial s'ha mogut fins ara en el terreny de les recomanacions polítiques, els principis generals i els informes de risc qualitatius, mentre la comunitat de matemàtics de recerca pura —la mateixa que ha desenvolupat els fonaments formals d'altres camps crítics— hi ha tingut un paper marginal. És aquest buit el que un dels matemàtics més reconeguts del moment ha decidit intentar cobrir.
Jacob Tsimerman, medallista Fields el 2026 i professor a la Universitat de Toronto, ha anunciat el 8 de setembre la creació del Mathematical AI Safety Institute (MAISI), una organització sense afany de lucre independent que es proposa desenvolupar «definicions, mesures i conceptes de solució» amb el rigor propi de les matemàtiques per determinar amb quina confiança es pot afirmar que un sistema d'IA avançat no provocarà una catàstrofe. Tsimerman n'és el director científic —tot i que també s'incorpora aquest setembre a l'equip de seguretat d'OpenAI, amb el compromís explícit que el MAISI operarà de manera independent de l'empresa—, i Andrew Critch, matemàtic doctorat per Berkeley i coautor amb Tsimerman d'un article del 2025 sobre escenaris «omnicides» de la IA, n'és el director executiu. El consell assessor inclou noms com Timothy Gowers (medallista Fields el 1998), Ravi Vakil (Stanford), Geoffrey Irving (exdirector científic de l'AI Security Institute britànic) i Paul Christiano (Alignment Research Center). L'institut, amb seu a la badia de San Francisco, funcionarà a la manera d'instituts com el Institute for Advanced Study: grups reduïts de matemàtics en residència durant uns quants semestres, amb un primer grup de 10 a 30 investigadors previst per al gener de 2027 i entre 30 i 100 per a un «any especial» al setembre de 2027.
La notícia és rellevant perquè és un intent explícit de portar el mètode de la matemàtica pura —definicions precises, demostracions, resultats que es poden verificar— a un àmbit dominat fins ara per l'especulació i la política, en un moment en què el mateix Tsimerman treballarà alhora dins d'un dels laboratoris que produeix els sistemes que el seu institut vol avaluar. El perfil dels seus col·laboradors, amb dos medallistes Fields i figures de referència en seguretat de la IA, dona a l'anunci un pes acadèmic poc habitual en aquest tipus d'iniciatives.
El MAISI encara no ha produït cap resultat de recerca: és, de moment, l'anunci d'una estructura i d'un procés de contractació, sense residents actius fins al gener de 2027 i sense detalls públics sobre el seu finançament. La doble filiació de Tsimerman —director científic del MAISI i, alhora, membre de l'equip de seguretat d'OpenAI— també planteja una pregunta sobre fins a quin punt l'institut podrà mantenir-se independent dels laboratoris que hauria d'avaluar, una qüestió que només el temps podrà respondre.