iaintel·ligènciaartificial.cat← Portada

SOCIETAT · 4 MIN

Meta retira en 72 hores una eina d'Instagram que permetia generar imatges d'IA d'altres usuaris sense avisar-los

La funció Muse Image deixava crear composicions etiquetant comptes públics aliens; la pressió d'usuaris i d'agències de talent com CAA per risc d'ús indegut ha fet que Meta la desactivés poques hores després de fer-se pública.

Il·lustració editorial de Meta retira en 72 hores una eina d'Instagram que permetia generar imatges d'IA d'altres usuaris sense avisar-los
Escolta:Àudio en preparació.

Meta va presentar el 7 de juliol Muse Image, un generador d'imatges amb intel·ligència artificial integrat a Instagram que permetia crear composicions noves mencionant comptes públics de la xarxa com a referència visual. L'eina, pensada com a funció creativa, no notificava en cap moment els titulars dels comptes que altres usuaris feien servir les seves fotografies com a font per generar-ne de noves.

La reacció va ser gairebé immediata. Usuaris i agències de representació de talent, entre elles CAA, van denunciar el risc que la funció es fes servir per crear imatges no consentides a partir de persones reals, un temor alimentat pels precedents ja coneguts de mal ús de la IA generativa amb rostres de famosos. El 9 de juliol, TechCrunch va publicar una guia per desactivar la funció, senyal de la magnitud de la preocupació entre els mateixos usuaris. Meta va retirar Muse Image l'endemà, el 10 de juliol, només tres dies després d'haver-la llançat.

La companyia ho ha reconegut sense embuts: «La nostra intenció era oferir una eina creativa útil i donar a la gent control sobre si el seu contingut públic es podia utilitzar com a referència d'aquesta manera. Hem escoltat que aquesta funció no ha encertat, per això ja no està disponible». La rapidesa de la marxa enrere contrasta amb la lentitud habitual de les grans plataformes a l'hora de corregir funcions polèmiques, i reflecteix fins a quin punt el debat sobre l'ús no consentit d'imatges amb IA s'ha tornat sensible per a l'opinió pública.

Meta no ha explicat si Muse Image tornarà amb salvaguardes addicionals, com ara el consentiment explícit dels comptes referenciats, ni ha xifrat quantes imatges es van arribar a generar durant els tres dies que la funció va estar activa.

Mateix tema

Veure tot el tema →

SOCIETAT · 4 MIN

El governador de Texas talla el finançament públic de les càmeres amb IA de Flock després d'una onada de casos d'ús indegut

Greg Abbott ordena a totes les agències estatals deixar de pagar les càmeres de reconeixement de matrícules amb intel·ligència artificial, després que una investigació destapés que un organisme públic hi havia destinat almenys 30 milions de dòlars i que un policia de Lufkin afronta 100 càrrecs per haver-les fet servir per vigilar 11 persones durant més d'un any.

Butlletí de dissabte

La setmana d’IA, en cinc minuts.