iaintel·ligènciaartificial.cat← Portada

TECNOLOGIA · 4 MIN

Apple endureix les normes de l'App Store contra les aplicacions que despullen persones amb IA i contra les que amaguen funcions després de la revisió

Les directrius actualitzades el 16 d'octubre afegeixen una norma contra les funcions amagades, inclosa l'ofuscació del codi, i adverteixen que qui no posi salvaguardes pot incomplir el codi de conducta dels desenvolupadors.

Il·lustració generada amb IA: Apple endureix les normes de l'App Store contra les aplicacions que despullen persones amb IA i contra les que amaguen funcions després de la revisió
Il·lustració generada amb IA
Escolta:

Durant l'últim any s'han multiplicat els informes sobre aplicacions que generen imatges íntimes sense consentiment. El gener, el Tech Transparency Project en va identificar desenes a l'App Store, i el juliol l'Ajuntament de San Francisco va ordenar a Apple que en retirés vuit. Apple va respondre llavors que les aplicacions de «nudificació» ja anaven contra les seves normes.

El 16 d'octubre Apple ha actualitzat les seves directrius de revisió d'aplicacions, tal com consta a la seva pàgina per a desenvolupadors. A l'apartat 1.2, sobre contingut generat pels usuaris, el text cita expressament la imatgeria íntima no consentida, i avisa que qui no apliqui salvaguardes adequades o no corregeixi les infraccions un cop avisat pot incomplir el codi de conducta dels desenvolupadors. Una norma nova, la 2.5.19, prohibeix les funcions amagades, latents o no documentades, i diu que dissimular-les en el codi, per exemple amb ofuscació, és motiu de retirada i de cancel·lació del compte. Apple vol així frenar les aplicacions «esquer i canvi», que presenten una finalitat durant la revisió i només mostren després capacitats nocives com la nudificació.

L'apartat legal també reforça el text: les aplicacions que facilitin el tràfic de persones o l'explotació infantil seran retirades de la botiga i bloquejades de la distribució alternativa. Per als desenvolupadors, vol dir que la responsabilitat sobre allò que genera una aplicació es fa més explícita, i que la revisió de la botiga no és l'únic filtre.

Una norma escrita no garanteix que s'apliqui, i Apple no ha dit quantes aplicacions revisarà ni quines retirarà. La prohibició de les funcions amagades ja existia a l'apartat 2.3.1; la novetat és que és més explícita i amb sancions més clares.

Mateix tema

Veure tot el tema →

Butlletí de dissabte

La setmana d’IA, en cinc minuts.