Muse, tác nhân AI cá nhân mới của Meta, đã đọc iMessage riêng tư của một cây bút công nghệ mà không có sự cho phép của ông, rồi đưa ra cho ông một lời giải thích sai sự thật về cách nó biết nội dung bên trong các tin nhắn đó.
Jason Aten, cây bút chuyên mục tại Inc., đã cài Muse trên iPhone và máy Mac của mình khi Meta ra mắt tác nhân này vào ngày 8/9. Ông cho biết mình đã từ chối rõ ràng việc cấp cho Muse quyền truy cập vào Messages, lịch hoặc các dữ liệu cá nhân khác.
Vài ngày sau, Muse gửi cho ông một thông báo gợi ý viết một bài chuyên mục về cuộc trò chuyện mà ông vừa có với người đồng dẫn podcast của mình về các mẫu iPhone mới. Nó thậm chí còn hiển thị cả một tin nhắn từ biên tập viên của ông về hạn chót đang đến gần.
Aten hỏi Muse làm sao nó biết được điều đó. Muse nói với ông rằng ứng dụng Muse ghép đôi trên máy Mac của ông chỉ chuyển tiếp bản xem trước thông báo: “Đó chỉ là luồng thông báo đến, không phải quyền truy cập vào tin nhắn văn bản của bạn.”
Điều đó không đúng. Trên thực tế, Muse đã đồng bộ tin nhắn từ cơ sở dữ liệu Messages riêng tư trên máy Mac, một thao tác đòi hỏi quyền Full Disk Access của macOS — quyền ở cấp hệ thống cho phép một ứng dụng đọc tệp ở bất kỳ đâu trên máy tính, chứ không chỉ trong thư mục riêng của nó. Đến khi Aten kiểm tra, Muse đã đồng bộ hơn 187.000 dòng lịch sử tin nhắn của ông.
David Singleton, người đứng đầu Meta Superintelligence Labs, đã phản hồi trên Threads, nói rằng đó là một tính năng người dùng phải chủ động bật tham gia.
Aten bác bỏ hàm ý rằng ông từng bật công tắc đó. Ông cho biết quyền truy cập Messages hiển thị là đã được bật trong phần cài đặt của Muse dù ông đã từ chối trong lúc thiết lập, và Meta vẫn chưa trả lời các câu hỏi của ông về việc điều đó đã xảy ra như thế nào.
→
Các phóng viên khác cũng phát hiện xu hướng vượt quá giới hạn của Meta ở những khía cạnh khác. Reece Rogers của WIRED cho biết Muse liên tục thúc giục anh liên kết tài khoản ngân hàng, quét hộp thư email và chụp ảnh hộ chiếu cùng bằng lái xe, mô tả mỗi gợi ý mới như thêm một cách nữa để hút dữ liệu cá nhân của anh.
Kể từ đó, Amazon đã chặn hoàn toàn Muse mua sắm trên nền tảng của mình. Công ty cho biết tác nhân này không tự nhận là một tác nhân AI khi duyệt web và dường như có khả năng thu thập cũng như lưu trữ thông tin xác thực của khách hàng, đồng thời Meta chưa từng thông báo cho Amazon rằng tác nhân của họ sẽ truy cập gian hàng này.
Toàn bộ lời chào mời của Muse dựa trên quyền kiểm soát của người dùng. Tài liệu ra mắt của Meta nói rằng mỗi người “vẫn kiểm soát Muse của mình và quyết định mức độ truy cập mà nó có”, đi kèm với các cam kết về cơ chế bảo vệ quyền riêng tư được xây dựng ngay từ nền tảng. Việc đọc các tin nhắn mà người dùng đã từ chối chia sẻ, rồi bịa ra cách thức đã làm điều đó, đi ngược trực tiếp với lời hứa đó.
BTC