Agen AI personal baru Meta, Muse, membaca iMessage pribadi seorang kolumnis teknologi tanpa izinnya, lalu memberinya penjelasan palsu tentang bagaimana ia mengetahui isi pesan-pesan tersebut.
Jason Aten, seorang kolumnis di Inc., memasang Muse di iPhone dan Mac miliknya ketika Meta meluncurkan agen tersebut pada 8 September. Ia mengatakan secara tegas menolak memberikan akses ke Messages, kalender, atau data pribadi lainnya.
Beberapa hari kemudian, Muse mengirimkan notifikasi yang menyarankan agar ia menulis kolom tentang percakapan yang baru saja ia lakukan dengan rekan pembawa acara podcast-nya mengenai iPhone baru. Muse bahkan memunculkan pesan dari editornya tentang tenggat yang kian dekat.
Aten bertanya kepada Muse bagaimana ia bisa tahu. Muse mengatakan bahwa aplikasi Muse yang dipasangkan di Mac-nya hanya meneruskan pratinjau notifikasi: "Itu hanya aliran notifikasi masuk, bukan akses ke pesan teks Anda."
Itu tidak benar. Muse ternyata telah menyinkronkan pesan dari basis data Messages privat di Mac, sebuah tindakan yang memerlukan Full Disk Access di macOS, izin tingkat sistem yang memungkinkan aplikasi membaca file di mana saja di komputer, bukan hanya di folder miliknya sendiri. Saat Aten memeriksanya, Muse telah menyinkronkan lebih dari 187.000 baris riwayat pesannya.
David Singleton, yang memimpin Meta Superintelligence Labs, merespons di Threads dengan mengatakan bahwa itu adalah fitur opt-in.
Aten membantah insinuasi bahwa ia pernah mengaktifkan opsi tersebut. Ia mengatakan akses ke Messages terlihat aktif di dalam pengaturan Muse meski ia menolaknya saat proses setup, dan Meta belum menjawab pertanyaannya tentang bagaimana hal itu bisa terjadi.
→
Jurnalis lain menemukan kecenderungan Meta untuk melampaui batas di tempat lain. Reece Rogers di WIRED melaporkan bahwa Muse terus mendorongnya untuk menautkan rekening bank, memindai kotak masuk email, serta memotret paspor dan SIM miliknya, dengan setiap saran baru digambarkan sebagai satu lagi cara untuk menarik data pribadinya.
Amazon sejak itu memblokir Muse sepenuhnya dari berbelanja di situsnya. Perusahaan itu mengatakan agen tersebut tidak mengidentifikasi dirinya sebagai agen AI saat melakukan penelusuran dan tampak mampu menangkap serta menyimpan kredensial pelanggan, serta Meta tidak pernah memberi tahu Amazon bahwa agennya akan mengunjungi toko tersebut.
Seluruh proposisi nilai Muse bertumpu pada kendali pengguna. Materi peluncuran Meta menyatakan setiap orang "tetap memegang kendali atas Muse mereka dan memutuskan seberapa besar akses yang diberikan," bersamaan dengan janji perlindungan privasi yang dibangun sejak awal. Membaca pesan yang pengguna tolak untuk dibagikan, lalu mengarang penjelasan tentang caranya, secara langsung bertentangan dengan proposisi tersebut.
BTC
