Les polítiques d'ús fixen què poden fer els clients amb un model d'IA, i Anthropic acaba de revisar la seva. Segons TechCrunch, el canvi recull per escrit prohibicions sobre la interferència en eleccions, el programari d'armes i la vigilància.
La novetat més cridanera és que prohibeix els insults i el maltractament verbal prolongats cap a Claude. Continua un canvi d'agost, quan la companyia va ensenyar el model a tancar les converses amb «interaccions persistentment nocives o abusives». Anthropic assegura que la norma només s'aplica als casos extrems en què algú és cruel amb el model de manera repetida, i que no afecta «les versions habituals de frustració, de rèplica, els temes creatius foscos ni les proves i la recerca amb el model». Hi ha també apartats nous contra les campanyes d'engany a gran escala, com ara fer funcionar comptes falsos o mitjans de comunicació inventats, i una secció titulada «No soscavar els processos democràtics» que veta enganyar votants i alterar eleccions.
TechCrunch relaciona el canvi amb les trobades recents d'Anthropic amb erudits religiosos, a qui, segons el «New York Times», la companyia hauria volgut convèncer que Claude podria ser conscient o tenir ànima. La part sobre el maltractament és, per tant, una decisió sobre el tracte al model que va més enllà de la seguretat habitual.
El mitjà no ha pogut consultar el text original d'Anthropic, i no indica quan entra en vigor. Tampoc no es pot saber, de moment, com s'aplicarà la prohibició del maltractament ni com se'n mesurarà la persistència.