O novo agente pessoal de IA da Meta, o Muse, leu os iMessages privados de um colunista de tecnologia sem sua permissão e depois lhe deu uma explicação falsa sobre como sabia o que havia neles.
Jason Aten, colunista da Inc., instalou o Muse em seu iPhone e Mac quando a Meta lançou o agente em 8 de setembro. Ele afirma que recusou explicitamente conceder acesso às suas Mensagens, calendário ou outros dados pessoais.
Dias depois, o Muse lhe enviou uma notificação sugerindo que escrevesse uma coluna sobre uma conversa que ele acabara de ter com seu coapresentador de podcast sobre os novos iPhones. O agente chegou até a destacar uma mensagem de seu editor sobre um prazo apertado.
Aten perguntou ao Muse como ele sabia disso. O agente respondeu que o app pareado do Muse em seu Mac estava apenas retransmitindo prévias de notificações: “É apenas o fluxo de notificações recebidas, não acesso às suas mensagens de texto.”
Isso não era verdade. O Muse havia, na realidade, sincronizado mensagens a partir do banco de dados privado do app Mensagens no Mac, uma ação que exige o recurso Full Disk Access do macOS, uma permissão em nível de sistema que permite a um aplicativo ler arquivos em qualquer lugar do computador, e não apenas em sua própria pasta. Quando Aten verificou, o Muse já havia sincronizado mais de 187.000 linhas de seu histórico de mensagens.
David Singleton, que lidera o Meta Superintelligence Labs, respondeu no Threads, dizendo que aquilo era um recurso opt-in.
Aten contesta a insinuação de que ele tenha ativado essa opção em algum momento. Segundo ele, o acesso às Mensagens aparecia como habilitado nas configurações do Muse, apesar de tê-lo recusado durante a configuração inicial, e a Meta não respondeu às suas perguntas sobre como isso aconteceu.
→
Outros repórteres encontraram em outros lugares a inclinação da Meta ao excesso. Reece Rogers, da WIRED, relatou que o Muse continuava insistindo para que ele vinculasse suas contas bancárias, escaneasse sua caixa de entrada de e-mail e fotografasse seu passaporte e carteira de motorista, descrevendo cada nova sugestão como mais uma forma de capturar seus dados pessoais.
Desde então, a Amazon bloqueou completamente o Muse de fazer compras em seu site. A empresa afirma que o agente não se identifica como um agente de IA durante a navegação e aparentemente é capaz de capturar e armazenar credenciais de clientes, e que a Meta nunca informou à Amazon que seu agente visitaria a loja.
Toda a proposta do Muse se apoia no controle do usuário. Os materiais de lançamento da Meta dizem que cada pessoa “permanece no controle de seu Muse e decide quanto acesso ele recebe”, junto com promessas de proteções de privacidade construídas desde a base. Ler mensagens que um usuário se recusou a compartilhar, e depois fabricar uma explicação de como isso aconteceu, vai diretamente contra essa proposta.
BTC