L'assaig de Dario Amodei demanant «pacar la frontera» tecnològica ha obert un debat que travessa tot el sector sobre fins on cal accelerar la IA abans de poder-la controlar del tot. Un dels punts més sensibles d'aquest debat és la «recursive self-improvement» (RSI): la possibilitat que un sistema d'IA dissenyi la versió següent de si mateix, i aquesta en dissenyi una altra, en un cicle que es podria escapar del control humà.
En un document tècnic recollit per l'agència Associated Press, OpenAI reconeix que encara no sap «com arribar de manera segura a una RSI completa i alineada» amb els valors humans, i afegeix que «no es pot donar per fet que el progrés en alineament i seguretat vagi al mateix ritme» que la capacitat dels models, que cada cop són més difícils de supervisar. Tot i aquest advertiment, l'empresa defensa seguir endavant perquè «un investigador d'IA automatitzat també pot ser un investigador de seguretat automatitzat», i treballa en un «becari de recerca» capaç de fer en hores tasques que ara triguen dies a un investigador humà, amb l'objectiu d'un «investigador» totalment automatitzat per al març del 2028. Elon Musk, per la seva banda, ha dit que a xAI «cada cop hi ha menys humans al bucle» en la millora dels models Grok —«cada versió la construeix la que la precedeix»— i preveu l'automatització completa «com a molt tard» el 2027. Anthropic, en canvi, insisteix que cal un ritme «coordinat i verificable» entre tots els competidors abans d'accelerar, i el cap d'IA de Microsoft, Mustafa Suleyman, defensa una «superintel·ligència humanista» amb límits deliberats en lloc d'una autonomia «sense fronteres». Anthony Aguirre, del Future of Life Institute, ho ha qualificat de «probablement la pitjor idea de la història de la humanitat», per la diferència de velocitat entre una IA i un humà.
La notícia és rellevant perquè, per primer cop, un dels grans laboratoris admet per escrit que no té resposta a la pregunta de seguretat més bàsica sobre l'RSI, alhora que hi destina recursos i es marca un calendari concret. Mostra també una bifurcació clara dins del sector: mentre Anthropic demana frenar i Microsoft parla de límits «humanistes», OpenAI i sobretot xAI es mouen cap a l'automatització amb dates fixades.
Les xifres i els terminis —el 2027 de xAI, el març del 2028 d'OpenAI— són objectius interns que les mateixes empreses es marquen, no compromisos verificats per tercers, i podrien no complir-se, com ja ha passat amb altres calendaris del sector. Tampoc hi ha, de moment, cap evidència pública que els sistemes actuals estiguin a prop de la capacitat real de millorar-se a si mateixos sense supervisió.