Google i Google DeepMind van llançar dimecres el DeepMind Institute, un nou espai pensat per ampliar el debat sobre la intel·ligència artificial general (AGI) més enllà de les parets de l'empresa. El dirigeixen el cofundador de DeepMind, Shane Legg, com a editor en cap, l'executiu de Google James Manyika i el president de Google DeepMind, Demis Hassabis, i el mateix comunicat de llançament admet que «no sempre estaran d'acord, i probablement canviaran d'opinió a mesura que arribin noves dades en una frontera que es mou de pressa».
La col·lecció inaugural inclou quatre assaigs: un sobre polítiques econòmiques per gestionar la disrupció que pot causar l'AGI, un altre sobre com preservar el raonament dels models de manera llegible per humans, un tercer sobre principis per al «floriment humà» i un quart amb una proposta concreta de Hassabis per crear un organisme d'estàndards liderat pels Estats Units que avaluï els models de frontera abans que es publiquin, amb enviaments voluntaris fins a 30 dies abans del llançament que, si el sistema demostra ser útil, podrien acabar sent obligatoris. En un altre assaig, els investigadors de seguretat Rohin Shah i Anca Dragan alerten que la finestra de transparència sobre el raonament dels models —la capacitat de veure pas a pas per què decideixen el que decideixen— s'està reduint amb les arquitectures noves, i demanen que reguladors i desenvolupadors afrontin aquest compromís de manera explícita, per exemple limitant quanta computació «opaca» pot fer un model sense deixar un rastre llegible.
L'anunci s'emmarca en un gir més ampli del sector cap a propostes concretes de supervisió externa, que aquesta mateixa setmana s'ha vist també en la cimera que el rei Carles III ha convocat a Escòcia i en el suport de diversos caps d'empreses de IA a la crida de Dario Amodei (Anthropic) a frenar deliberadament el ritme de millora dels models.
Cal llegir la iniciativa amb cautela: l'institut és un projecte de la mateixa Google DeepMind, dirigit per persones de l'empresa, i les seves propostes —com l'organisme d'avaluació liderat pels Estats Units— són per ara assaigs d'opinió, sense cap compromís legal ni cap altra companyia asseguda a la taula per acordar-los. Que Google defensi una supervisió més gran de la IA de frontera no equival, de moment, a cap canvi de comportament verificable.