Durant anys, un dels senyals més fiables per detectar un correu fraudulent ha estat el mateix text: errors gramaticals, traduccions maldestres o un to que no encaixava amb l'entitat que suposadament l'enviava. La irrupció de la IA generativa ha començat a esborrar aquesta pista.
L'Agència de Ciberseguretat de Catalunya ha alertat que el 82,6% dels intents de frau per correu electrònic que arriben als usuaris ja fan servir intel·ligència artificial per redactar-los, i ha llançat una campanya de conscienciació de cara al període estival perquè la ciutadania extremi la precaució. La directora de l'agència, Laura Caballero, ha explicat que "tot el que genera la IA és gairebé perfecte" i que, mentre abans "els correus fraudulents tenien errors" que permetien detectar-los, ara "la IA pot generar textos i traduccions impecables", també en vídeo i en veu. Caballero ho ha resumit com un cas en què "la tecnologia lluita contra la tecnologia", ja que cada cop més empreses despleguen sistemes de detecció basats també en IA per contrarestar aquests atacs.
L'avís català s'emmarca en una tendència detectada arreu: la IA generativa abarateix i accelera la producció d'atacs de pesca (phishing) versemblants, capaços d'imitar amb precisió la identitat visual, el llenguatge i fins i tot la veu d'entitats reals, cosa que redueix el marge de detecció per part d'usuaris particulars, especialment vulnerables durant l'època de vacances, quan baixa la guàrdia i es fan més compres i gestions en línia.
L'Agència de Ciberseguretat de Catalunya no ha detallat quines dades concretes sustenten el percentatge del 82,6% ni quin període exacte cobreix, i recomana mesures clàssiques -verificació en dos passos, contrasenyes robustes i comprovació directa amb l'entitat emissora- que no depenen de poder distingir a ull un text generat per IA.