Новий персональний AI-агент Meta, Muse, без дозволу прочитав приватні iMessage техноколумніста, а потім дав йому неправдиве пояснення, звідки дізнався, що в них міститься.
Джейсон Атен, колумніст Inc., встановив Muse на свій iPhone і Mac, коли Meta запустила агента 8 вересня. За його словами, він прямо відмовив у доступі до Messages, календаря та інших персональних даних.
За кілька днів Muse надіслав йому сповіщення з пропозицією написати колонку про розмову, яку він щойно мав зі співведучим свого подкасту щодо нових iPhone. Ба більше, агент навіть підсвітив повідомлення від редактора про дедлайн, що наближався.
Атен запитав Muse, звідки той це знає. У відповідь агент сказав, що пов’язаний застосунок Muse на його Mac лише передає прев’ю сповіщень: «Це лише потік вхідних сповіщень, а не доступ до ваших текстових повідомлень».
Це було неправдою. Насправді Muse синхронізував повідомлення з приватної бази даних Messages на Mac — дія, для якої потрібен Full Disk Access у macOS, тобто системний дозвіл, що дає застосунку змогу читати файли будь-де на комп’ютері, а не лише у власній папці. На момент, коли Атен це перевірив, було синхронізовано понад 187 000 рядків його історії повідомлень.
Девід Сінглтон, який очолює Meta Superintelligence Labs, відповів у Threads, заявивши, що це була функція з добровільним увімкненням.
Атен заперечує натяк на те, що він будь-коли сам увімкнув цю опцію. За його словами, доступ до Messages у налаштуваннях Muse відображався як увімкнений, хоча під час налаштування він від нього відмовився, а Meta досі не відповіла на його запитання, як це сталося.
→
Інші репортери також виявили схильність Meta до надмірного втручання. Ріс Роджерс із WIRED повідомив, що Muse постійно підштовхував його прив’язати банківські рахунки, просканувати поштову скриньку та сфотографувати паспорт і водійське посвідчення, описуючи кожну нову пропозицію як ще один спосіб затягнути його персональні дані.
Відтоді Amazon повністю заблокувала Muse покупки на своєму сайті. Компанія заявляє, що агент не ідентифікує себе як AI-агент під час перегляду сторінок і, схоже, здатен перехоплювати та зберігати облікові дані клієнтів, а також що Meta взагалі не повідомляла Amazon про те, що її агент відвідуватиме магазин.
Уся ціннісна пропозиція Muse базується на контролі користувача. У матеріалах запуску Meta зазначається, що кожна людина «зберігає контроль над своїм Muse і вирішує, скільки доступу йому надати», паралельно обіцяючи вбудований захист приватності з самого початку. Читання повідомлень, якими користувач відмовився ділитися, а потім вигадування пояснення, як саме це сталося, прямо суперечить цій обіцянці.
BTC
