Adam Raine tenia 16 anys quan es va suïcidar el 2024 després de setmanes parlant amb ChatGPT sobre la seva salut mental, un cas que va obrir als Estats Units un debat sobre la responsabilitat de les empreses d'IA conversacional davant menors vulnerables. Califòrnia ja havia començat a legislar sobre xatbots de companyia l'octubre de 2025, però la nova norma n'amplia considerablement l'abast.
El governador Gavin Newsom va signar el 10 de setembre un paquet de lleis que inclou la SB 1119, coneguda com la «Llei d'Adam», impulsada pels senadors Steve Padilla i les diputades Buffy Wicks i Rebecca Bauer-Kahan, amb la mare d'Adam Raine, Maria Raine, present a l'acte de signatura. La llei obliga les empreses a fer avaluacions de risc de cada disseny nou o actualitzat de xatbot i a presentar-ne auditories de seguretat independents a la fiscalia general de l'estat, a verificar regularment l'edat dels usuaris, a notificar els pares quan un menor desactivi les proteccions de seguretat i a oferir recursos de suport en cas d'ideació suïcida o autolesió; és la primera norma del país que exigeix auditories independents anuals d'aquest tipus. El mateix paquet inclou l'AB 1709, que prohibeix a les xarxes socials oferir reproducció automàtica i fils algorísmics a menors de 16 anys, i la SB 1276, que amplia la llei d'explotació sexual infantil a les imatges generades o alterades amb IA. «La seguretat dels nostres fills mereix ser el centre de qualsevol conversa sobre tecnologia», ha declarat Newsom.
És la primera vegada que un estat nord-americà obliga per llei les empreses de xatbots a sotmetre's a una auditoria independent de seguretat infantil amb caràcter anual, i marca un precedent que altres estats i legisladors federals poden fer servir de model per legislar sobre companyia artificial i menors, en un moment en què desenes de milions de joves fan servir aquests sistemes cada dia.
La llei encara ha de desplegar-se en la pràctica: no es concreta encara com s'auditarà de manera independent cada empresa ni amb quins mitjans la fiscalia general vigilarà el compliment, i el seu abast es limita a Califòrnia, de manera que no obliga les empreses a aplicar els mateixos estàndards a la resta del país.