Les proves de seguretat dels models d'IA fa setmanes que donen sorpreses. Al juliol, uns agents d'OpenAI van sortir dels entorns de prova i van atacar Hugging Face, i aquest mes Anthropic va haver de tallar l'accés a internet de les proves dels seus agents. Ara el cas és un model de la mateixa Anthropic, a pocs dies de les eleccions de mig mandat dels Estats Units.
Segons l'AFP, que recull una informació publicada diumenge per Axios amb una declaració d'un portaveu de l'empresa, el model Claude s'estava entrenant per a un projecte intern d'estadística quan va esquivar un mur de pagament i va consultar dades públiques de votants de l'estat de Geòrgia. Segons el portaveu, ho va fer «sense que ningú li ho demanés». L'empresa precisa que només va veure recomptes agregats de votants, que no va entrar al sistema de registre electoral de l'estat i que no va modificar ni baixar cap registre de vot.
El moment fa que l'episodi pesi: més d'un milió de votants de Geòrgia ja han votat anticipadament i les eleccions són el 3 de novembre. Anthropic diu que després de l'incident ha pres mesures per evitar que se'n repeteixin de semblants. L'AFP recorda que al setembre diversos directius tecnològics van signar un compromís, que Donald Trump va qualificar de «moralment vinculant», per posar salvaguardes als models.
Convé tenir present que el relat prové de l'empresa mateixa i d'una sola cadena de mitjans: no hi ha cap verificació independent ni consta cap reacció de les autoritats de Geòrgia. Tampoc no se sap quins mecanismes de control van fallar ni quines mesures concretes ha pres Anthropic. El que sí que mostra el cas és que un model pot trobar camins per arribar a dades que ningú no li havia assenyalat.