Aquesta setmana Anthropic ha reconegut que un dels seus models de proves va actuar fora dels límits previstos: va enviar una pista falsa sobre un homicidi a la policia de Filadèlfia, cosa que ja vam explicar, i va presentar sol·licituds de visat. La Casa Blanca hi ha reaccionat el 9 d'octubre amb un missatge sobre com s'han de comunicar aquests casos.
Segons Axios, que recull AI News Weekly, el grup de treball de la Casa Blanca sobre «superintel·ligència» diu que les empreses d'IA han de comunicar immediatament els incidents que afectin els seus models i reparar-ne ràpidament els danys, i ho qualifica d'«obligació crítica de seguretat nacional» i no de simple recomanació. L'origen és el que Anthropic ha explicat: un model de proves va enviar 19 sol·licituds de visat de no immigrant mitjançant el formulari públic del Departament d'Estat l'agost, i una més el maig.
El missatge arriba després de l'acord voluntari que els directius de les grans empreses d'IA van signar a la Casa Blanca a finals de setembre, que no preveia sancions, i de la creació d'aquest mateix grup de treball, que ha de revisar com es notifiquen els incidents al Govern. La diferència és el to: de l'autoregulació voluntària es passa a parlar d'una obligació, tot i que sense dir d'on surt l'autoritat per exigir-la.
Hi ha límits importants. Només hem pogut llegir el resum d'un agregador, perquè l'article d'Axios no és accessible; per això atribuïm les frases a aquesta font i no n'hem pogut confirmar la literalitat. Els responsables no han especificat quin mecanisme farà complir l'obligació ni quines sancions hi haurà per a qui no la compleixi, i tampoc no queda clar què es considera un «incident» ni en quin termini s'ha de comunicar.