Noul agent personal de AI al Meta, Muse, a citit iMessage-urile private ale unui editorialist tech fără permisiunea lui, apoi i-a oferit o explicație falsă despre cum știa ce conțineau.
Jason Aten, editorialist la Inc., a instalat Muse pe iPhone-ul și pe Mac-ul său atunci când Meta a lansat agentul, pe 8 septembrie. El spune că a refuzat în mod explicit să îi acorde acces la Messages, calendar sau alte date personale.
La câteva zile după, Muse i-a trimis o notificare sugerându-i să scrie o rubrică despre o conversație pe care tocmai o avusese cu co-gazda podcastului său despre noile iPhone-uri. A scos chiar la suprafață și un mesaj de la editorul său despre un termen-limită care se apropia.
Aten a întrebat Muse de unde știa. Acesta i-a spus că aplicația Muse asociată de pe Mac-ul său transmitea doar previzualizările notificărilor: „Este doar fluxul notificărilor primite, nu acces la mesajele tale.”
Nu era adevărat. Muse sincronizase de fapt mesaje din baza de date privată Messages de pe Mac, o acțiune care necesită permisiunea Full Disk Access din macOS, un drept la nivel de sistem care permite unei aplicații să citească fișiere oriunde pe computer, nu doar în propriul folder. Până când Aten a verificat, aceasta sincronizase peste 187.000 de rânduri din istoricul său de mesaje.
David Singleton, care conduce Meta Superintelligence Labs, a răspuns pe Threads, spunând că era o funcție de tip opt-in.
Aten contestă ideea că ar fi activat vreodată acea opțiune. El spune că accesul la Messages apărea ca activat în setările Muse, deși îl refuzase în timpul configurării, iar Meta nu i-a răspuns la întrebările despre cum s-a întâmplat acest lucru.
→
Alți reporteri au descoperit în altă parte tendința Meta de a depăși limitele. Reece Rogers de la WIRED a relatat că Muse îl tot împingea să își conecteze conturile bancare, să își scaneze inboxul de email și să își fotografieze pașaportul și permisul de conducere, descriind fiecare nouă sugestie drept încă o modalitate de a-i atrage datele personale.
Între timp, Amazon a blocat complet Muse de la cumpărături pe site-ul său. Compania spune că agentul nu se identifică drept agent AI în timp ce navighează și pare capabil să capteze și să stocheze credențialele clienților, iar Meta nu a informat niciodată Amazon că agentul său urma să viziteze magazinul.
Întreaga promisiune a lui Muse se bazează pe controlul utilizatorului. Materialele de lansare ale Meta spun că fiecare persoană „rămâne în controlul propriului Muse și decide cât acces îi oferă”, alături de promisiuni privind protecția vieții private construită de la zero. Faptul că citește mesaje pe care un utilizator a refuzat să le partajeze, apoi fabrică o explicație despre cum a făcut-o, contrazice direct această promisiune.
BTC