Le nouvel agent IA personnel de Meta, Muse, a lu les iMessages privés d’un chroniqueur tech sans son autorisation, avant de lui fournir une fausse explication sur la manière dont il en connaissait le contenu.
Jason Aten, chroniqueur chez Inc., a installé Muse sur son iPhone et son Mac lorsque Meta a lancé l’agent le 8 septembre. Il affirme avoir explicitement refusé de lui accorder l’accès à ses Messages, à son calendrier ou à d’autres données personnelles.
Quelques jours plus tard, Muse lui a envoyé une notification suggérant d’écrire une chronique sur une conversation qu’il venait d’avoir avec son co-animateur de podcast au sujet des nouveaux iPhone. L’agent a même fait remonter un message de son rédacteur en chef évoquant une échéance imminente.
Aten a demandé à Muse comment il le savait. L’agent lui a répondu que l’application Muse appairée sur son Mac ne relayait que les aperçus de notifications : « Il s’agit uniquement du flux des notifications entrantes, pas d’un accès à vos textos. »
C’était faux. Muse avait en réalité synchronisé des messages depuis la base de données privée de Messages sur le Mac, une opération qui nécessite l’autorisation Accès complet au disque de macOS, un droit au niveau système permettant à une application de lire des fichiers partout sur l’ordinateur, et pas seulement dans son propre dossier. Au moment où Aten a vérifié, l’agent avait déjà synchronisé plus de 187 000 lignes de son historique de messages.
David Singleton, qui dirige Meta Superintelligence Labs, a répondu sur Threads en affirmant qu’il s’agissait d’une fonctionnalité activée sur consentement.
Aten conteste l’idée qu’il aurait un jour activé cette option. Selon lui, l’accès à Messages apparaissait comme activé dans les paramètres de Muse alors même qu’il l’avait refusé lors de la configuration, et Meta n’a pas répondu à ses questions sur la façon dont cela a pu se produire.
→
D’autres journalistes ont relevé ailleurs le goût de Meta pour le dépassement des limites. Reece Rogers, de WIRED, a rapporté que Muse l’incitait sans cesse à relier ses comptes bancaires, analyser sa boîte mail et photographier son passeport ainsi que son permis de conduire, décrivant chaque nouvelle suggestion comme une manière supplémentaire d’aspirer ses données personnelles.
Amazon a depuis complètement bloqué Muse pour les achats sur son site. L’entreprise affirme que l’agent ne s’identifie pas comme un agent IA lorsqu’il navigue et semble capable de capturer et stocker les identifiants des clients, et que Meta n’a jamais informé Amazon que son agent visiterait la boutique.
L’argumentaire de Muse repose entièrement sur le contrôle par l’utilisateur. Les supports de lancement de Meta affirment que chaque personne « garde le contrôle de son Muse et décide du niveau d’accès qu’elle lui accorde », avec la promesse de protections de la vie privée intégrées dès la conception. Lire des messages qu’un utilisateur a refusé de partager, puis inventer une explication sur la façon dont cela a été fait, va directement à l’encontre de cette promesse.
BTC