Des que els grans models de llenguatge es van popularitzar, les empreses que els fabriquen publiquen de tant en tant informes sobre «usos maliciosos» detectats a les seves plataformes: xarxes d'estats o grups organitzats que fan servir la IA per automatitzar tasques de desinformació, frau o espionatge que abans requerien molta més mà d'obra humana. OpenAI, Anthropic i Google han anat documentant casos vinculats a la Xina, Corea del Nord, l'Iran i Rússia. Aquesta setmana, OpenAI n'ha fet públic un de nou.
Segons l'informe difós el 25 d'agost, l'empresa ha desarticulat una xarxa de comptes de ChatGPT operada des de Rússia mitjançant VPN, activa entre el setembre de 2025 i el maig de 2026. Els operadors escrivien les instruccions en rus però demanaven al model que generés comentaris en anglès per a xarxes socials, i li ordenaven explícitament esborrar-ne qualsevol tret lingüístic que en delatés l'origen. El contingut es difonia a X, LinkedIn, Facebook, Substack i Telegram —alguns canals amb entre 10.000 i 20.000 seguidors— i promocionava un fals think tank presentat com a israelià, l'«International Burke Institute», que publicava un «índex de sobirania» favorable a Rússia i articles amb credencials d'autor fabricades, alguns atribuïts erròniament a acadèmics reals de Cambridge, a Francis Fukuyama i a Noam Chomsky. OpenAI hi ha comptat almenys 34 dels 36 articles del web com a plagiats d'altres fonts. La campanya també tenia branques específiques en alemany contra la Unió Europea i el govern alemany, i objectius a Estats Units, França, Polònia i Turquia. L'empresa la classifica en el nivell 3 de 6 de l'escala Brookings Breakout, que mesura l'abast d'una operació d'influència.
El cas il·lustra com els models de llenguatge permeten a operacions d'influència relativament petites produir contingut en diversos idiomes i dissimular-ne l'origen amb un esforç humà mínim, un problema que les mateixes empreses de IA reconeixen que aniran trobant més sovint a mesura que aquestes eines es popularitzin entre actors estatals. La divulgació arriba a més en un moment en què la Unió Europea ja exigeix, des del 2 d'agost, que els sistemes d'IA que interactuen amb usuaris s'identifiquin com a tals i que el contingut generat o manipulat amb IA es marqui de manera clara.
Cal llegir la troballa amb cautela: és la mateixa OpenAI qui detecta, investiga i explica el cas, sense una auditoria externa independent que en verifiqui l'abast real. L'empresa reconeix que la campanya va tenir un impacte reduït, però adverteix que la infraestructura que hi havia darrere es podria haver escalat. Tancar aquests comptes tampoc impedeix que els mateixos operadors en creïn de nous amb altres VPN, de manera que el cas s'ha d'entendre com un episodi més d'una cursa contínua entre les plataformes d'IA i els actors que en volen abusar, no com un problema resolt.