Fa mesos que els grans laboratoris admeten que la IA ja escriu una part important del seu propi codi. Dilluns, un grup d'unes vint-i-una persones ha posat aquest fet en un document signat pels dos científics que més han alertat dels riscos de la tecnologia, Geoffrey Hinton i Yoshua Bengio, però també per gent de dins de les empreses: Jakub Pachocki, científic en cap d'OpenAI, Jack Clark, cofundador d'Anthropic, Eric Horvitz, de Microsoft, i Dawn Song, de la Universitat de Califòrnia a Berkeley. L'informe surt sota el títol «What if automating AI R&D triggers an intelligence explosion?» i el publica el programa d'IA, ciència i política de la Universitat de Cambridge.
La tesi és que, si els sistemes d'IA arriben a fer la major part de la recerca que serveix per millorar els sistemes d'IA, els avenços es podrien encadenar a un ritme que la societat no pugui seguir. Segons el text, això podria comprimir «anys de progrés en mesos o menys» i, si comença, «la finestra per actuar es pot tancar». Com a indicis, els autors citen que la part del codi aprovat a Anthropic escrit per IA va passar d'una xifra d'un sol dígit a més del 80% entre el gener del 2025 i el maig del 2026, i que la part de la feina de recerca i desenvolupament que fa la IA amb poca supervisió humana va passar de l'1% al 26% entre el març i l'agost d'aquest any. Algunes extrapolacions provisionals situen cap a mitjan 2028 l'automatització de projectes de recerca que duren mesos.
Els autors demanen als governs que obtinguin visibilitat sobre fins a quin punt les empreses automatitzen la seva pròpia recerca, amb informes estàndard i auditors independents dins dels laboratoris, i que estudiïn mecanismes per limitar el ritme de creixement de les capacitats i aturar centres de dades. També proposen plans d'emergència i acords internacionals. El document arriba en plena setmana de tensió entre les empreses i Washington, amb OpenAI i Anthropic preparant la sortida a borsa i amb el fil obert de les incidències d'agents que s'han sortit del seu marc.
Convé llegir-lo com un avís i no com una predicció: el mateix informe reconeix «molta incertesa» i enumera quatre frens possibles, els rendiments decreixents, les limitacions de càlcul i de dades, les tasques difícils d'automatitzar i els cicles d'entrenament llargs. Tampoc no és una publicació revisada per iguals, sinó un document de treball, i les xifres sobre Anthropic les aporten autors que hi treballen. Ara bé, que responsables de tres dels principals laboratoris el signin al costat de Hinton i Bengio dona pes al debat sobre què s'ha de poder vigilar abans que la recerca en IA es faci sola.