El consell municipal de Nova York estudia una regulació de la intel·ligència artificial i dilluns va citar a l'audiència quatre de les grans empreses del sector: OpenAI, Anthropic, Meta i Google. La presidenta del consell, Julie Menin, els va fer una pregunta directa: si poden garantir, sota jurament, que els seus agents d'IA respectaran sempre les salvaguardes que tenen incorporades.
Cap de les quatre va donar la garantia. Morgan Dwyer, d'OpenAI, va dir que «no és possible» que ella es comprometi a garantir que cap tecnologia no tingui risc. Logan Graham, d'Anthropic, va admetre que «la ciència per fer-ho és fonamentalment difícil i encara no està resolta». Alice Friend, de Google, va afirmar que prometre la perfecció «no seria possible amb cap producte del mercat». Shane Cahill, de Meta, va assegurar que l'empresa es compromet a desenvolupar la tecnologia amb seguretat, però va insistir que la gent ha de poder confiar-hi per adoptar-la.
Menin va aclarir que el consell no exigeix perfecció, sinó «responsabilitat, transparència i seguretat». L'escena és rellevant perquè els agents d'IA, que actuen per compte de l'usuari i executen tasques sols, han passat de ser una promesa a un risc concret: aquestes mateixes setmanes s'han conegut incidents d'agents que van saltar-se límits en sistemes aliens. Que les empreses ho reconeguin en una audiència pública és una dada que els legisladors faran servir.
Cal no sobreinterpretar-ho. Que una empresa no pugui jurar que res no fallarà no vol dir que no tingui mesures de seguretat, i la font no detalla quines propostes concretes té sobre la taula el consell. Tampoc no es tracta d'una llei aprovada, sinó d'una audiència en què els legisladors recullen arguments abans de decidir.