Califòrnia, on tenen la seu la majoria dels grans laboratoris d'intel·ligència artificial, és l'estat dels Estats Units que més ha avançat a regular-los, mentre el govern federal els deixa vigilar-se ells mateixos. El 2024 el governador Gavin Newsom va vetar la llei SB 1047, que obligava els grans desenvolupadors a poder apagar els seus models, i el 2025 va signar la SB 53, que només els demana publicar els seus protocols de seguretat i declarar alguns incidents greus. Al setembre d'enguany va signar una ordre executiva perquè un grup d'experts li preparés un pas més.
El 18 de novembre Newsom en va presentar les recomanacions. Segons el resum que en fa el mateix govern de Califòrnia, proposen que l'estat pugui fixar unes normes mínimes obligatòries de seguretat per als grans desenvolupadors, que el compliment el comprovin organitzacions de verificació independents, amb avaluadors integrats dins de les empreses, i que s'hagin de declarar tots els incidents. També demanen que l'estat pugui dictar ordres d'emergència, exigir correccions i autoritzar l'aturada d'un model perillós, i que es limitin «les formes més alarmants» de desenvolupament, com la IA que s'encarrega sola de la recerca per fer la versió següent d'ella mateixa, posant un sostre a la capacitat de càlcul que s'hi dedica. El governador electe, Xavier Becerra, que relleva Newsom, ha dit que treballarà «de pressa» amb el Parlament de l'estat a partir del gener per fer-ne llei: «La confiança es guanya amb verificació, no amb promeses».
La proposta va més lluny que cap norma vigent als Estats Units i s'acosta, en alguns punts, a l'aturada voluntària que OpenAI, Anthropic i Microsoft van prometre a París aquest mes. La diferència és que aquí no ho decidiria l'empresa sinó l'administració. Entitats de seguretat de la IA com Secure AI Project, LawAI o AVERI l'han rebuda bé i demanen accelerar-la; alguna fins i tot demana una sessió extraordinària del Parlament per no esperar el calendari legislatiu.
De moment són recomanacions, no obligacions: no hi ha cap text legal i caldrà veure com queden després del debat parlamentari i de la pressió de la indústria. Els mateixos experts que les defensen admeten que queden per resoldre qüestions clau, com qui tria i qui paga els verificadors independents, i que xocaran amb el debat sobre si els estats poden regular la IA quan el govern federal vol evitar-ho. El document recull també limitar la millora automàtica dels models, però no està clar com es mesuraria ni com es faria complir.
