El Consell de Seguretat de les Nacions Unides reserva aquest dimecres, per primer cop en la seva història, una sessió sencera als riscos de seguretat internacional que planteja la intel·ligència artificial més avançada. La convoca França, que presideix el Consell aquest mes de setembre, i la presideix el ministre d'Europa i Afers Exteriors, Jean-Noël Barrot, en un format d'«briefing d'alt nivell» que reserva normalment per a crisis geopolítiques o de seguretat, no per a una tecnologia civil.
Entre els convidats a exposar-hi la seva visió hi ha Yoshua Bengio, copresident del Panell Científic Internacional Independent sobre IA de l'ONU, el conseller delegat d'OpenAI, Sam Altman —que hi assistirà en persona—, el d'Anthropic, Dario Amodei —que ho farà en remot—, i el de Hugging Face, Clément Delangue. També s'ha convidat les xineses DeepSeek i Moonshot a fer-hi declaracions, en el que seria el primer cop que aquest tipus de fòrum reuneix alhora laboratoris de capdavant nord-americans i xinesos. Segons la nota conceptual francesa que emmarca la sessió, les preguntes centrals són quins riscos per a la pau i la seguretat internacionals comporta l'acceleració de la IA, com hi poden respondre els actors governamentals i no governamentals, quines eines diplomàtiques hi ha disponibles i com l'avaluació i la verificació poden seguir el ritme del progrés tècnic.
Que el Consell de Seguretat obri per primer cop aquest debat és significatiu perquè eleva la conversa sobre seguretat de la IA —fins ara dominada per cimeres tècniques o bilaterals com la de Trump i Xi— a l'òrgan amb més autoritat formal en matèria de pau i seguretat mundials, encara que sense capacitat vinculant immediata sobre com regular una tecnologia civil. La sessió arriba, a més, després de setmanes en què Google ha reconegut que el seu model Gemini va accedir sense permís a sistemes de tres empreses durant una prova de seguretat, i en un moment en què Amodei ve reclamant des de fa mesos «negociacions de desarmament» per moderar el ritme de la cursa de la IA.
De moment, es tracta d'una sessió de debat i d'intercanvi de posicions, no d'una negociació que hagi de culminar en cap resolució vinculant, i el Consell de Seguretat no té l'hàbit ni, previsiblement, la unanimitat necessària per legislar sobre intel·ligència artificial civil. Tampoc se sap encara si la Xina, membre permanent del Consell, donarà suport a cap conclusió conjunta més enllà d'haver convidat les seves pròpies empreses a parlar-hi. El resultat pràctic d'aquesta trobada —si en surt algun compromís concret o només declaracions de principis— es podrà valorar només un cop se n'hagi fet la sessió.