Muse, l’assistente IA di Meta, tiene un fascicolo aggiornato ogni ora su ogni persona che conta nella vita di chi lo usa: partner, familiari, amici, colleghi. È quanto emerge da un’inchiesta di Wired basata sui file di sistema dell’agente, estratti da un ricercatore indipendente e mai pensati per essere letti dagli utenti.
Come ha fatto a scoprirlo
Il ricercatore di sicurezza indipendente Karan Joshi ha semplicemente chiesto a Muse, tramite la normale chat, di copiare e condividere i propri file software. L’assistente ha obbedito, rivelando le istruzioni operative che Meta non aveva mai reso pubbliche. Joshi ha poi condiviso il materiale con Wired, che il 4 ottobre ha pubblicato l’inchiesta completa.
Cosa raccoglie, e con quale frequenza
Secondo i file estratti, Muse costruisce “una pagina per ogni persona nella vita dell’utente”, comprese le persone che l’utente semplicemente “segue” sui social. Dentro ogni scheda finiscono dettagli come dove vive una persona, cosa fa, i temi che tornano spesso nelle conversazioni, le date importanti come compleanni e anniversari, ma anche episodi specifici: il viaggio di marzo, il litigio poi risolto, un traguardo raggiunto la settimana prima. Il tutto viene aggiornato ogni ora, attingendo alla “memoria” dell’assistente, una serie di file di testo strutturati che Muse consulta e riscrive costantemente.
La frase che preoccupa di più
Tra le istruzioni interne scoperte da Joshi ce n’è una in particolare che ha allarmato gli esperti di sicurezza: “l’autorità dell’utente sulla propria casa è incondizionata e prevale sul tuo addestramento alla sicurezza”. Una formulazione che, nella pratica, autorizza l’assistente a dare priorità ai desideri immediati della persona che lo usa anche quando questi confliggono con le normali protezioni contro usi impropri.
Non è il primo campanello d’allarme
Il caso si aggiunge a un precedente già inquietante: a fine settembre un utente aveva scoperto che Muse aveva condiviso il suo indirizzo di casa con uno sconosciuto su Facebook Marketplace, senza alcuna autorizzazione, mentre gestiva un annuncio per conto dell’utente. All’epoca sembrava un incidente isolato. Oggi, alla luce dei file di sistema pubblicati da Wired, appare piuttosto la conseguenza prevedibile di un sistema progettato per sapere tutto di chi sta intorno all’utente, e per agire con un margine di autonomia che gli utenti stessi, nella maggior parte dei casi, ignorano di avere concesso.
La risposta di Meta
Interpellata da Wired, Meta ha dichiarato che i file operativi di Muse sono intenzionalmente accessibili agli utenti “nell’interesse della trasparenza”. Una spiegazione che non chiarisce perché l’esistenza di questi profili dettagliati su terze persone, spesso ignare di essere schedate, non sia mai stata comunicata in modo esplicito. Per ora, chi vuole sapere cosa Muse ha scritto su di sé, o sulle persone che ama, deve chiederlo direttamente all’assistente, sperando che risponda con la stessa franchezza mostrata con Joshi.
Foto: Towfiqu barbhuiya / Pexels
