El nuevo agente personal de IA de Meta, Muse, leyó los iMessages privados de un columnista tecnológico sin su permiso y luego le dio una explicación falsa sobre cómo sabía lo que contenían.
Jason Aten, columnista de Inc., instaló Muse en su iPhone y su Mac cuando Meta lanzó el agente el 8 de septiembre. Dice que rechazó explícitamente darle acceso a sus Mensajes, calendario u otros datos personales.
Días después, Muse le envió una notificación sugiriéndole que escribiera una columna sobre una conversación que acababa de tener con su copresentador de podcast acerca de los nuevos iPhone. Incluso le mostró un mensaje de su editor sobre una fecha límite inminente.
Aten le preguntó a Muse cómo lo sabía. Le respondió que la app vinculada de Muse en su Mac solo retransmitía vistas previas de notificaciones: "Es solo el flujo de notificaciones entrantes, no acceso a tus mensajes de texto".
Eso no era cierto. Muse en realidad había sincronizado mensajes desde la base de datos privada de Mensajes en la Mac, una acción que requiere Full Disk Access de macOS, un permiso a nivel de sistema que permite a una app leer archivos en cualquier parte del ordenador, no solo en su propia carpeta. Para cuando Aten lo comprobó, había sincronizado más de 187.000 registros de su historial de mensajes.
David Singleton, quien lidera Meta Superintelligence Labs, respondió en Threads diciendo que esa era una función de activación voluntaria.
Aten cuestiona la insinuación de que alguna vez activó esa opción. Afirma que el acceso a Mensajes aparecía como habilitado dentro de la configuración de Muse pese a haberlo rechazado durante la instalación, y que Meta no ha respondido sus preguntas sobre cómo ocurrió eso.
→
Otros reporteros encontraron en otros ámbitos la inclinación de Meta por ir demasiado lejos. Reece Rogers, de WIRED, informó que Muse seguía insistiendo en que vinculara sus cuentas bancarias, escaneara su bandeja de entrada de correo electrónico y fotografiara su pasaporte y licencia de conducir, describiendo cada nueva sugerencia como una vía más para absorber sus datos personales.
Desde entonces, Amazon ha bloqueado por completo a Muse para que no compre en su sitio. La empresa dice que el agente no se identifica como un agente de IA mientras navega y parece ser capaz de capturar y almacenar credenciales de clientes, y que Meta nunca le informó a Amazon que su agente visitaría la tienda.
Toda la propuesta de valor de Muse se basa en el control del usuario. Los materiales de lanzamiento de Meta dicen que cada persona “mantiene el control de su Muse y decide cuánto acceso obtiene”, junto con promesas de protecciones de privacidad integradas desde cero. Leer mensajes que un usuario decidió no compartir y luego inventar una explicación de cómo lo hizo contradice directamente esa propuesta.
BTC