La integració de sistemes d'intel·ligència artificial en la presa de decisions militars avança tant als Estats Units com a la Xina, en un context on ja s'han documentat episodis preocupants: aquest mateix dijous s'ha fet públic un cas en què una al·lucinació d'un xatbot va estar a punt de desencadenar una operació militar nord-americana real contra un vaixell xinès. En aquest escenari, un grup d'experts en seguretat dels dos països ha decidit fer una proposta conjunta just abans d'una cimera clau entre els dos governs.
Melanie Sisson, investigadora sènior de la Brookings Institution, i Tianjiao Jiang, professora associada a la Universitat de Fudan, integrants del diàleg sobre IA i seguretat nacional entre els Estats Units i la Xina que Brookings i la Universitat de Tsinghua coordinen des del 2019, han publicat un conjunt de recomanacions que proposen «línies vermelles» explícites: que cap sistema d'IA pugui decidir de manera autònoma l'ús d'armes nuclears, ni atacar de manera autònoma els sistemes de comandament, control i comunicacions nuclears de l'altre país. També plantegen que l'autoritat per iniciar ciberatacs rellevants contra aquests sistemes, o contra infraestructures crítiques com l'energia, les finances o la sanitat, quedi sempre en mans humanes, i proposen crear una línia directa específica per gestionar incidents relacionats amb IA autònoma.
La proposta és rellevant perquè arriba pocs dies abans d'una reunió prevista el 24 de setembre a Washington entre el president Donald Trump i el president xinès Xi Jinping, i perquè trasllada a l'àmbit militar bilateral una lògica de contenció inspirada en els acords de control d'armes nuclears de la Guerra Freda, diferent de les iniciatives d'autoregulació corporativa que ja negocien OpenAI, Anthropic i Google. Es tracta, en aquest cas, d'un intent de diàleg directe entre els dos estats sobre els riscos militars de la IA, no entre laboratoris privats.
Es tracta, de moment, de recomanacions acadèmiques i no de política oficial de cap dels dos governs: ni la Casa Blanca ni Pequín n'han fet cap valoració pública, i no hi ha cap garantia que la cimera del 24 de setembre reculli o esmenti aquestes propostes concretes.