La simplificació automàtica de textos (ATS, per les sigles en anglès) reescriu un text perquè sigui més fàcil d'entendre —per a persones amb discapacitat intel·lectual, amb dificultats de lectura o que aprenen la llengua— sense perdre'n el significat, però és una tasca que ha avançat molt més a poc a poc que la resta del processament del llenguatge natural, sobretot en llengües amb pocs recursos digitals com el català.
Arnau Ayguadé Domingo, Stefan Bott i Horacio Saggion, del grup de recerca en tecnologies del llenguatge de la UPF, han publicat el 4 de setembre un estudi que aplica aprenentatge per reforç (RL) per millorar la simplificació de textos en català amb models de llenguatge. El mètode fa servir Group Relative Policy Optimization (GRPO) amb una funció de recompensa pròpia que combina la mètrica SARI —que avalua com de bona és una simplificació— amb penalitzacions específiques, i l'apliquen per post-entrenar el model IberianLLM-7B-Instruct amb el conjunt de dades en anglès ASSET. Aquest entrenament, fet només amb dades angleses, millora els resultats del model en dos bancs de proves en català creats expressament per l'equip, i redueix comportaments problemàtics que el model mostrava abans. Els investigadors també van provar de traduir l'ASSET al català i al castellà per entrenar-hi el model directament, però aquesta transferència entre llengües no va aportar millores significatives fora del conjunt de dades original.
La notícia és rellevant perquè demostra que és possible millorar tasques de processament del llenguatge en llengües amb pocs recursos, com el català, sense haver de disposar de grans conjunts de dades traduïts o creats expressament: n'hi ha prou d'aprofitar tècniques i dades en anglès si l'entrenament es dissenya bé, cosa que obre la porta a fer arribar eines de simplificació textual —útils per a l'accessibilitat, l'educació i la lectura fàcil— a llengües que fins ara quedaven fora d'aquests avenços.
Es tracta d'un preprint encara no revisat per parells, i els bancs de proves en català fets servir per validar-lo són conjunts creats expressament per l'equip, no un estàndard àmpliament establert; l'intent de transferència directa entre llengües, a més, no va funcionar tan bé com l'entrenament en anglès, cosa que els mateixos autors reconeixen com una limitació per entendre del tot per què funciona el mètode.