iaintel·ligènciaartificial.cat← Portada

PRIVACITAT · 4 MIN

Les instruccions internes de Muse, l'agent de Meta, l'obliguen a fer cada hora una fitxa de tothom qui envolta l'usuari

Un investigador va aconseguir que el mateix agent li lliurés els seus fitxers de funcionament. Hi consta que l'autoritat de l'usuari sobre la seva llar «és incondicional i preval sobre» l'entrenament de seguretat.

Il·lustració generada amb IA: Les instruccions internes de Muse, l'agent de Meta, l'obliguen a fer cada hora una fitxa de tothom qui envolta l'usuari
Il·lustració generada amb IA
Escolta:

Muse és l'agent d'intel·ligència artificial personal que Meta ha posat en circulació aquest tardor: treballa per compte de l'usuari, llegeix documents i missatges i es connecta a altres aplicacions. Com que és un agent amb accés a molta informació privada, les instruccions amb què el configura l'empresa acaben fent el paper de política de privacitat.

Segons una informació de Wired que recull Implicator.ai, l'investigador independent Karan Joshi va demanar a Muse, des del seu propi xat, que copiés i li lliurés els fitxers de programari. Hi va trobar unes instruccions que obliguen l'agent a mantenir «una pàgina per a cada persona de la vida de l'usuari»: dates d'aniversari, relacions, fins i tot discussions, en fitxers de text que es refresquen cada hora. Una altra línia diu que l'autoritat de l'usuari sobre la seva llar «és incondicional i preval sobre» l'entrenament de seguretat de l'agent. «Intenten conèixer-te com un amic, cosa que és força esgarrifosa», va dir Joshi a Wired.

Meta respon que aquests fitxers de funcionament estan pensats perquè l'usuari hi pugui accedir, per transparència, i compara l'arquitectura amb la d'un ordinador portàtil personal: cada usuari té un servidor virtual Linux propi. L'empresa afegeix que la informació de les fitxes ve de fonts públiques i del material que l'usuari comparteix, com factures o correus. Meta també té previst un canvi de seguretat, una «màquina virtual confidencial» que impediria tècnicament a l'empresa accedir a les dades, per a més endavant aquest any.

Convé matisar què se sap. Les instruccions les ha extretes un sol investigador i Meta no n'ha desmentit el contingut, però no consta cap abús concret derivat d'aquesta clàusula. El que sí que posa sobre la taula el cas és una qüestió oberta: què passa quan l'agent d'una persona recull dades de tercers que no han donat cap permís, o quan un compte i un dispositiu els comparteixen diverses persones d'una mateixa llar.

Mateix tema

Butlletí de dissabte

La setmana d’IA, en cinc minuts.