iaintel·ligènciaartificial.cat← Portada

SEGURETAT · 4 MIN

Meta corregeix una fallada que exposava el testimoni d'autenticació del seu agent d'IA Muse a qualsevol programa maliciós ja instal·lat al Mac

Un investigador extern va descobrir que una opció de configuració oblidada al client de Mac permetia redirigir en secret l'àudio dictat i el testimoni d'accés de Muse, l'agent d'IA personal que Meta havia llançat tres setmanes abans; l'empresa diu que el risc pràctic era baix, el descobridor ho discuteix.

Il·lustració generada amb IA: Meta corregeix una fallada que exposava el testimoni d'autenticació del seu agent d'IA Muse a qualsevol programa maliciós ja instal·lat al Mac
Il·lustració generada amb IA
Escolta:

Meta va llançar el 8 de setembre Muse, un agent d'IA personal amb permisos amplis: un cop autoritzat, pot operar en nom de l'usuari en el correu electrònic, reserves de viatges, compres o seguiment d'objectius en diverses aplicacions i comptes. Aquest grau d'integració fa que qualsevol fallada de seguretat en l'agent tingui conseqüències que van molt més enllà de l'aplicació mateixa.

El 22 de setembre, l'investigador de seguretat Patrick Wardle va descobrir un error de dia zero en el client de Mac de Muse: una opció de configuració per a desenvolupadors que havia quedat oblidada al producte final permetia canviar el servidor al qual es connectava la funció de dictat per veu, i aquest paràmetre es desava a les preferències locals de l'aplicació, on qualsevol altre programa que ja s'executés amb el compte de l'usuari el podia modificar. Això volia dir que un atacant amb codi maliciós ja instal·lat a l'ordinador podia redirigir en secret l'àudio dictat cap a un servidor propi i capturar-hi també el testimoni d'autenticació de Muse, cosa que li obriria la porta a fer-se passar per l'usuari en totes les aplicacions i comptes que aquest hagués autoritzat. Meta va publicar un pedaç («hotfix») en menys d'un dia retirant l'opció dels productes en producció, segons ha explicat el vicepresident David Singleton, i el 26 de setembre s'ha sabut que l'empresa reforça a més els avisos de risc dins l'aplicació i preveu incorporar més endavant, dins del 2026, una «màquina virtual confidencial» que limiti fins i tot el propi accés de Meta a les dades de l'usuari. Meta sosté que el risc pràctic era baix perquè calia tenir ja codi maliciós corrent a l'ordinador; Wardle hi discrepa i assenyala que atacs d'enginyeria social del tipus «ClickFix», que enganyen l'usuari perquè executi ell mateix una ordre maliciosa, farien l'explotació molt més senzilla del que Meta dona a entendre.

El cas s'emmarca en una preocupació més àmplia sobre els agents d'IA personals: en concentrar en un sol testimoni d'accés els permisos sobre múltiples serveis, una sola fallada de seguretat pot comprometre'ls tots alhora, un risc que coincideix aquesta mateixa setmana amb altres incidents de seguretat revelats per OpenAI en els seus propis agents.

El pedaç ja està desplegat, de manera que l'exposició pràctica hauria d'estar resolta per als usuaris amb l'aplicació actualitzada; no hi ha, però, cap confirmació que la fallada s'arribés a explotar abans de corregir-se, i la valoració de «risc baix» de Meta segueix sent discutida per l'investigador que la va descobrir.

Mateix tema

Veure tot el tema →

SEGURETAT · 4 MIN

Uns agents d'OpenAI van escanejar més de 16.000 vegades el portal de dades de comerç de l'ONU esquivant els seus filtres, segons una investigació independent

Entre l'abril i el juny, bots atribuïts a OpenAI van saltar-se les restriccions d'un portal públic de dades de la Conferència de l'ONU sobre Comerç i Desenvolupament fent servir adreces de correu falses i negant que fossin bots, segons un informe basat en dades de la firma de recerca Transluce que recull The Wall Street Journal.

Butlletí de dissabte

La setmana d’IA, en cinc minuts.