La vigília del Fòrum de París sobre la Pau, on una trentena de caps d'estat i de govern han de parlar de com es regula la IA, el president francès, Emmanuel Macron, va fer signar dilluns en una reunió en línia la «Crida de París per a la seguretat de la IA» (*Paris Call for AI Safety and Security*). El diari Le Monde en va informar amb vuit països signants, però la llista oficial que ha publicat l'Elisi, que continua oberta a noves adhesions, ja en recull setze.
Segons aquesta llista, hi han signat França, Àustria, Bahrain, el Canadà, Croàcia, Xipre, Estònia, Finlàndia, Irlanda, Kenya, Letònia, Liechtenstein, Luxemburg, els Països Baixos, Noruega i Portugal, i deu empreses: Anthropic, OpenAI, Microsoft, Mistral AI, Cohere, Hugging Face, Black Forest Labs, Domyn, Sakana AI i Synthesia, a més de set entitats de la societat civil, entre les quals LawZero, la de Yoshua Bengio. Els desenvolupadors es comprometen a fer públics, en un format comú, els resultats no sensibles de les avaluacions dels seus models més potents, a explicar-ne les capacitats, els límits i els riscos coneguts, a facilitar la feina d'avaluadors independents i a mantenir «mecanismes de seguretat per aturar el funcionament dels models que controlen», també durant l'entrenament i l'ús intern. Els governs, per la seva banda, han de crear canals confidencials perquè els treballadors puguin alertar de riscos sense represàlies i un sistema d'avís ràpid d'incidents greus de ciberseguretat i de pèrdua de control.
La crida és el primer text d'aquest tipus que posa per escrit, amb la signatura dels mateixos laboratoris, el compromís de poder apagar un model si se'n perd el control. També hi ha una novetat política: el text apunta que caldrà aclarir qui respon dels danys a gran escala, fins i tot quan travessen fronteres, en un moment en què els Estats Units han rebutjat a l'ONU qualsevol esquema de supervisió internacional i han optat per obligar les empreses a informar dels incidents només a les seves agències.
Els límits són evidents. És un compromís voluntari, sense terminis ni sancions, i encara s'han de definir els estàndards comuns i els procediments de cooperació. A la llista no hi són ni els Estats Units, ni el Regne Unit, ni Alemanya, ni la Xina, ni Espanya, i entre les empreses hi falten Google, Meta i xAI, que fan alguns dels models més potents del món. El pes real de la crida dependrà de qui s'hi afegeixi i de si els signants publiquen de debò les avaluacions que han promès.