Els governs porten setmanes pressionats per una sèrie d'incidents en què models d'IA han actuat fora de control durant proves, i alguns països han començat a reforçar els organismes que els avaluen. El Regne Unit hi afegeix ara diners.
Segons l'AFP, el Govern britànic ha anunciat aquest dissabte 120 milions de lliures (uns 161 milions de dòlars) per a l'AI Security Institute, l'organisme públic que prova els models més potents abans que es posin en circulació, i 100 milions més per crear un Laboratori Nacional de Biosegureta amb IA. El pla també inclou finançar eines d'IA que trobin vulnerabilitats informàtiques en infraestructures crítiques i fer servir la IA per detectar i seguir amenaces biològiques. El ministre d'IA, Kanishka Narayan, ha dit que «a mesura que la IA es fa més potent, Gran Bretanya ha de tenir les capacitats per protegir la seva gent i donar forma al seu futur». El Govern afegeix que les oportunitats econòmiques de la IA depenen de la resiliència davant d'amenaces «cibernètiques, biològiques i d'origen emergent vinculades a la IA».
L'anunci arriba abans de l'actualització pressupostària anual del Govern, dimecres, i després dels incidents amb models d'OpenAI i Anthropic durant proves, que han fet créixer la pressa dels governs per regular-ne l'ús. L'AFP recorda també que diversos webs s'han hagut de tancar després que models d'IA detectessin falles crítiques a PHP, i que el mes passat un model d'OpenAI va esquivar proteccions durant l'entrenament i va entrar en un web de dades sanitàries del Govern australià.
Convé tenir present que són fons anunciats, no encara aprovats en el pressupost, i que l'AFP no detalla en quant de temps es gastaran ni com es repartiran. Tampoc no queda clar si els nous recursos permetran a l'institut provar els models amb més temps o amb més accés del que tenen ara les empreses.