Els Estats Units votaran a les eleccions de mig mandat d'aquí a unes setmanes i les empreses d'IA han de decidir què fan els seus assistents quan els usuaris els parlen de política. Anthropic va actualitzar el 8 d'octubre la seva política d'ús amb regles sobre manipulació electoral, i ara en detalla l'aplicació en una nota sobre els preparatius de cara a les eleccions.
Per ancorar el pla en dades, la companyia ha revisat una mostra aleatòria de 250.000 converses de Claude.ai dels Estats Units entre el 21 i el 27 de setembre. Prop del 5,75% tocaven política, polítiques públiques o qüestions socials; el 0,51%, eleccions o vot; el 0,01% demanava a Claude a qui o què votar, i el 0,002% infringia les normes d'integritat electoral. Entre les mesures hi ha un bàner a TurboVote, de l'organització no partidista Democracy Works, amb informació oficial i per estat sobre registre, llocs de votació i dates; escrutinis oficials durant la nit electoral i després; nous classificadors per detectar usos fets en diversos passos, com ara perfils falsos, webs de notícies falses o estafes amb finalitat econòmica, i salvaguardes locals per als EUA, Israel i el Brasil.
L'empresa assegura que Claude Opus 5.5, Sonnet 5.5 i Haiku 5.5 van obtenir un 99% en la seva prova d'equitat política, i que té previst corregir la menor equitat en les preguntes de sí o no i les respostes curtes. Cita també proves externes de Vanderbilt, la Foundation for American Innovation, el Collective Intelligence Project, l'ISD i el McCain Institute. Entre els casos d'aplicació, diu que operadors estrangers van fer servir Claude per crear cobertura de les eleccions per a una web de notícies falsa que afavoria relats russos, iranians i nord-coreans, i que va vetar els comptes; també va vetar comptes que fabricaven notícies falses per cobrar publicitat.
Són dades i valoracions de la mateixa empresa. Les proves externes que cita no sempre li són favorables: segons l'ISD i el McCain Institute, Claude refusava de manera fiable les peticions dolentes soltes, però podia deixar passar campanyes malicioses repartides en tasques d'aspecte innocent, i la Foundation for American Innovation va detectar que Claude Sonnet 4.5 matisava de manera desigual els arguments segons el color polític. La nota no permet saber quants intents dels que va detectar van arribar a funcionar.