Fa uns dies vam explicar que Nova York proposava deu lleis per obligar les empreses d'intel·ligència artificial a instal·lar un interruptor d'emergència i a protegir els denunciants interns. La novetat és que avui, dilluns 5 d'octubre, el Consell Municipal celebra l'audiència pública en què aquestes propostes es debaten amb testimonis.
A petició de la presidenta del Consell, Julie Menin, hi declaren tres antics empleats de laboratoris: Jacob Coxon, que va deixar Anthropic el mes passat; Alex Turner, exinvestigador de Google DeepMind, i Daniel Kokotajlo, ex d'OpenAI. Coxon ha dit que els qui construeixen la IA «creuen sincerament que podria matar-nos tots abans que acabi la dècada» i acusa Anthropic i OpenAI de córrer riscos excessius. També hi compareixen responsables de política pública d'Anthropic (Logan Graham), OpenAI (Morgan Dwyer), Meta (Shane Cahill) i Google (Alice Friend).
El projecte principal prohibiria vendre o fer servir un sistema d'IA a la ciutat sense una validació d'una tercera part i exigiria un interruptor d'emergència operat per persones. Altres textos preveuen compensar els denunciants amb una part de les multes recuperades, deixar que els novaiorquesos denunciïn davant els tribunals les salvaguardes insuficients, obligar els contractistes municipals a notificar incidents en 24 hores i fer públic l'impacte sobre l'ocupació. Menin sosté que «els denunciants són la raó per la qual el món va saber dels perills potencials de la IA».
L'audiència no aprova res per si sola: és una sessió d'escolta i els projectes encara han de seguir el tràmit al Consell. Les afirmacions dels denunciants són les seves i les empreses no n'han acceptat el diagnòstic; caldrà veure si la ciutat pot imposar requisits a sistemes que es despleguen a escala global.