Des de fa dos anys, la idea de frenar la IA més avançada s'ha discutit sobretot com a desig o com a eslògan. Un grup de treball d'acadèmics ha preferit una altra pregunta: si els governs ho volguessin, es podria fer de manera verificable? La resposta és un document de treball d'unes 200 pàgines, penjat el 10 d'octubre, que Tech Xplore ha recollit aquest dilluns.
L'informe, titulat «The Feasibility of a Hardwired Pause of Frontier AI Training», el signa el Grup de Treball sobre la Viabilitat d'una Aturada de la IA, coordinat pels professors William Fithian i Wesley Holliday, de Berkeley. Hi participen 26 investigadors de Berkeley, Princeton, Stanford, Harvard i Oxford, entre ells Stuart Russell. Proposa una aturada internacional d'almenys deu anys de l'entrenament de nous models de frontera, amb una llista de models ja existents considerats segurs, un cens mundial dels xips d'entrenament i l'aturada o la reducció forta de la seva producció. Els xips actuals se substituirien progressivament per xips «només d'inferència»: serveixen per executar models ja aprovats, però estarien dissenyats de manera que fos poc pràctic entrenar-hi models nous, ni que algú els robés.
El pes de l'argument recau en la verificació. La cadena de subministrament de xips d'IA està molt concentrada, amb pocs punts de pas obligats, i això permetria als governs controlar-ne la producció. L'objectiu, segons el text, no és impedir qualsevol trampa sinó mantenir la capacitat d'entrenament encoberta o oberta de cada estat per sota d'uns límits, i fer-la prou cara de detectar perquè la cooperació sigui sostenible. L'informe fa servir lliçons del control d'armament i la teoria de jocs.
Cal llegir-lo com el que és: un document de treball, no una proposta política en marxa, i no discuteix si l'aturada és desitjable ni probable. Depèn que els líders mundials la vulguin, que accepten retirar o traslladar els xips d'abans de l'aturada i que hi hagi una supervisió prou bona. Els mateixos autors reconeixen que els xips només d'inferència només són atractius econòmicament si els models nous queden prohibits i que una aturada no resoldria tots els riscos de la IA.