El fiscal general de Florida, James Uthmeier, ha demanat aquest dilluns a un jutge del comtat de Highlands una injunció temporal contra OpenAI, el seu conseller delegat Sam Altman i les empreses afiliades, mentre segueix el judici. La petició és la mesura més dura que ha plantejat fins ara cap estat nord-americà contra l'empresa.
La demanda es va presentar l'1 de juny, després d'una investigació penal oberta a l'abril arran d'un tiroteig massiu a la Universitat Estatal de Florida en què el sospitós hauria fet servir ChatGPT abans de l'atac. Són 83 pàgines i acusen OpenAI de pràctiques enganyoses, d'ignorar advertiments interns de seguretat i de posar el benefici comercial per davant de la protecció dels usuaris. Segons Uthmeier, l'objectiu és «cap model nou sense salvaguardes de seguretat independents, no més recollida de dades de menors».
La mesura demanada obligaria OpenAI a deixar que avaluadors externs provin els models abans de continuar-ne el desenvolupament, per detectar injecció d'instruccions, ús no autoritzat d'eines, filtració de dades, autonomia insegura i fallades en les proteccions de contingut. També prohibiria donar a ChatGPT «atributs humans», tractar dades personals de menors de 13 anys sense les garanties exigides i promocionar el servei sense advertències visibles sobre els riscos que l'estat li atribueix. El fiscal justifica la urgència citant les crides que el mateix Altman ha fet a frenar el ritme de la IA.
Ara ha de decidir el jutge, i les acusacions són les de l'estat, no fets provats. OpenAI havia respost en fases anteriors que ChatGPT és «una eina de propòsit general que centenars de milions de persones fan servir cada dia per a usos legítims». Si la mesura prosperés, seria el primer cop que un tribunal frenaria de manera directa el desenvolupament de models d'una empresa de frontera, un precedent que altres fiscals podrien voler imitar.