iaintel·ligènciaartificial.cat← Portada

CIÈNCIA · 4 MIN

Un equip coreà fa servir IA explicable per destapar 24.000 comptes sospitosos de manipular l'opinió pública en 110 milions de comentaris

Investigadors del KAIST han analitzat vint anys de comentaris al principal portal de notícies de Corea del Sud amb un sistema d'IA que no només detecta comptes sospitosos de manipulació vinculada a l'estranger, sinó que explica en quina base fonamenta cada senyalament.

Il·lustració editorial de Un equip coreà fa servir IA explicable per destapar 24.000 comptes sospitosos de manipular l'opinió pública en 110 milions de comentaris
Escolta:

Detectar operacions coordinades de manipulació de l'opinió pública a internet és un dels reptes més difícils de la desinformació digital: els comptes implicats solen barrejar-se amb usuaris reals, no s'alineen amb un únic partit o ideologia i actuen durant anys abans que ningú els identifiqui com a xarxa coordinada. Diversos episodis d'aquest tipus ja han sacsejat la política coreana en dècades anteriors, però faltava una eina capaç d'analitzar-los a l'escala temporal i de volum necessària.

Un equip del Korea Advanced Institute of Science and Technology (KAIST) ha presentat, en resultats recollits l'11 d'agost, un sistema d'intel·ligència artificial explicable capaç d'analitzar grans volums de comentaris i senyalar comptes amb comportament compatible amb operacions d'influència estrangera, indicant també la base concreta de cada senyalament -no com una caixa negra, sinó amb el raonament exposat. Aplicat a un conjunt de 110 milions de comentaris publicats al portal de notícies Naver entre el 2006 i el 2025, el sistema ha identificat prop de 24.000 comptes amb un patró de comportament sospitós, partint de 70 comptes ja identificats prèviament per l'Institute for National Security Strategy com a punt de partida per entrenar el model. Els comptes senyalats no es concentraven en un únic espectre polític, sinó que publicaven missatges contra polítics conservadors i progressistes, expresidents i presidents en actiu per igual, d'una manera que sembla buscar amplificar la polarització i la confrontació més que no pas afavorir un bàndol concret.

És un exemple concret de recerca en ciències socials computacionals aplicada a un problema polític real: fer servir IA no per generar contingut, sinó per destapar-ne la manipulació, amb un èmfasi explícit en l'explicabilitat perquè els resultats es puguin auditar i no s'hagin de prendre com un veredicte opac. La investigació es basa en un article acadèmic ja disponible («Cross-National Information Attacks: A Two-Decade Analysis of Troll Behavior in Korea»), no en un informe corporatiu ni de consultoria.

L'equip parla de comptes «sospitosos de vinculació estrangera» i de comportament «compatible amb» manipulació coordinada, no d'una atribució confirmada a cap govern o organització concreta, i identificar un patró de publicació sospitós no equival a demostrar qui hi ha al darrere de cada compte. La investigació se centra en un únic portal de notícies i en el context coreà, de manera que caldrà veure si el mètode es replica igual de bé en altres països i plataformes.

Mateix tema

Butlletí de dissabte

La setmana d’IA, en cinc minuts.