Meta ha anat incorporant assistents d'IA que naveguen pel contingut ja publicat pels usuaris a Instagram i Facebook per suggerir-los preguntes o dades relacionades, una funció pensada per fer més útil el propi arxiu de fotos i vídeos de cada compte.
Segons ha revelat Futurism el 10 de setembre, Kalie Robins, una mare de Utah, va penjar un vídeo cantant al cotxe amb una de les seves filles, i la IA de Meta hi va suggerir la pregunta «Qui és la passatgera?». En prémer-hi, el sistema va generar un perfil detallat que incloïa el nom de totes dues filles —tot i que només una sortia al vídeo—, les seves edats i dates de naixement extretes de publicacions familiars antigues, el pes en néixer, prediccions sobre en quin curs escolar deuen ser, les seves platges i llibres preferits, i fins i tot va recuperar una fotografia d'un nadó que Robins creia haver esborrat feia anys del seu compte. Un altre suggeriment, «On viu Kalie Robins?», va fer que l'eina encreués publicacions antigues i noves per situar la residència actual de la família. Meta ha confirmat a Futurism que la funció «no hauria d'haver fet mai» aquest tipus de preguntes i diu haver-ho corregit, tot precisant que la IA només fa servir contingut propi de l'usuari i informació pública disponible a internet.
El cas és rellevant perquè posa xifres i noms concrets a un temor genèric sobre la IA generativa: que un sistema entrenat amb anys d'historial d'un compte pugui reconstruir, sense que ningú ho hagi demanat explícitament, un perfil força complet dels fills d'algú a partir de fragments dispersos de fotos, comentaris i publicacions d'altres familiars.
El relat es basa en les captures que la mateixa Robins va compartir amb Futurism i en la resposta oficial de Meta; no se sap si casos similars han afectat altres comptes ni quin abast exacte té el canvi que Meta diu haver aplicat per evitar que es repeteixi.