Fins ara, la regulació de la intel·ligència artificial als Estats Units ha quedat sobretot en mans dels estats —Califòrnia n'és l'exemple més recent, amb les lleis de seguretat de xatbots que el governador Newsom acaba de signar—, mentre el Congrés no havia aprovat cap norma federal que regulés específicament els riscos dels models més avançats. Els laboratoris capdavanters, entre ells OpenAI, Anthropic i Google, han operat fins ara sobretot sota compromisos voluntaris de seguretat sense força legal darrere.
Segons ha revelat Reuters l'11 de setembre a partir de fonts d'assessors del Senat, els negociadors treballen ara en una llei que imposaria un «deure de cura» (duty of care) als desenvolupadors dels models d'IA més capaços: haurien de dissenyar els seus productes per prevenir «riscos catastròfics», definits com escenaris en què un usuari maliciós faci servir la IA per dissenyar armes nuclears o biològiques. El text donaria al govern federal la potestat de bloquejar el llançament de models considerats insegurs, tot i que les empreses podrien impugnar-ho davant dels tribunals federals, i preveu que la norma federal substitueixi la legislació estatal específicament en aquests dos riscos. Lideren la negociació el líder de la majoria al Senat, John Thune, el president de la Comissió de Comerç, Ted Cruz, i la senadora demòcrata Amy Klobuchar, amb Cruz confirmant en una publicació pròpia que treballa amb Klobuchar i Thune per «adreçar els riscos catastròfics relacionats amb amenaces biològiques o nuclears».
És el primer intent seriós al Congrés nord-americà de convertir en obligació legal, i no en promesa voluntària, la prevenció dels riscos més greus de la IA, i arriba en un moment de tensió entre l'aposta d'alguns estats per legislar amb duresa i la voluntat d'altres actors polítics de frenar aquesta mateixa regulació estatal. El calendari hi afegeix pressió: les eleccions de mig mandat són el 3 de novembre i la Cambra de Representants només té previst estar en sessió una setmana abans, davant les tres del Senat.
El text de la llei encara no s'ha fet públic i tot està en negociació: no es concreta encara amb quin abast exacte podria el govern bloquejar un model, quins criteris tècnics definirien un «risc catastròfic» a la pràctica, ni si l'acord bipartidista arribarà a temps d'aprovar-se abans que el calendari electoral en dificulti el tràmit.