Meta के नए पर्सनल AI एजेंट Muse ने एक टेक कॉलमनिस्ट के निजी iMessages उसकी अनुमति के बिना पढ़ लिए, और फिर यह भी गलत तरीके से समझाया कि उसे उनके भीतर की जानकारी कैसे पता चली।
Inc. के कॉलमनिस्ट Jason Aten ने 8 सितंबर को Meta द्वारा एजेंट लॉन्च किए जाने पर अपने iPhone और Mac पर Muse इंस्टॉल किया। उनका कहना है कि उन्होंने साफ तौर पर उसे अपने Messages, calendar या अन्य निजी डेटा तक पहुंच देने से इनकार किया था।
कुछ दिनों बाद, Muse ने उसे एक नोटिफिकेशन भेजा, जिसमें सुझाव दिया गया कि वह नए iPhones पर अपने पॉडकास्ट को-होस्ट के साथ अभी-अभी हुई बातचीत पर एक कॉलम लिखे। उसने उसके एडिटर का एक संदेश भी सामने ला दिया, जिसमें नजदीक आती डेडलाइन का जिक्र था।
Aten ने Muse से पूछा कि उसे यह कैसे पता चला। Muse ने कहा कि उसके Mac पर पेयर्ड Muse ऐप केवल नोटिफिकेशन प्रीव्यू रिले कर रही थी: "यह सिर्फ आने वाले नोटिफिकेशन की स्ट्रीम है, आपके टेक्स्ट्स तक पहुंच नहीं।"
यह सच नहीं था। Muse ने वास्तव में Mac के निजी Messages database से संदेश सिंक किए थे। इसके लिए macOS की Full Disk Access नामक सिस्टम-स्तरीय परमिशन चाहिए होती है, जो किसी ऐप को केवल उसके अपने फोल्डर तक सीमित न रखकर पूरे कंप्यूटर में कहीं भी फाइलें पढ़ने देती है। Aten ने जब तक जांच की, तब तक यह उसके मैसेज हिस्ट्री की 187,000 से अधिक पंक्तियां सिंक कर चुका था।
Meta Superintelligence Labs का नेतृत्व करने वाले David Singleton ने Threads पर जवाब देते हुए कहा कि यह एक opt-in फीचर था।
Aten इस संकेत को खारिज करते हैं कि उन्होंने कभी वह स्विच ऑन किया था। उनका कहना है कि सेटअप के दौरान इसे ठुकराने के बावजूद Muse की सेटिंग्स में Messages access सक्षम दिखाई दे रहा था, और Meta ने अब तक इस बारे में उनके सवालों का जवाब नहीं दिया है कि ऐसा कैसे हुआ।
→
अन्य रिपोर्टरों ने भी Meta की सीमाएं लांघने की प्रवृत्ति को दूसरे जगहों पर देखा। WIRED के Reece Rogers ने रिपोर्ट किया कि Muse लगातार उन्हें अपने बैंक खाते लिंक करने, ईमेल इनबॉक्स स्कैन करने, और पासपोर्ट व ड्राइविंग लाइसेंस की फोटो लेने के लिए उकसाता रहा, और हर नए सुझाव को उनके निजी डेटा तक पहुंचने के एक और तरीके के रूप में पेश करता रहा।
इसके बाद Amazon ने अपनी साइट पर Muse की शॉपिंग पूरी तरह ब्लॉक कर दी। कंपनी का कहना है कि ब्राउज़िंग के दौरान यह एजेंट खुद को AI एजेंट के रूप में पहचान नहीं देता और ग्राहक क्रेडेंशियल्स को कैप्चर व स्टोर करने में सक्षम दिखता है, जबकि Meta ने Amazon को कभी बताया ही नहीं कि उसका एजेंट स्टोर पर आने वाला है।
Muse की पूरी पेशकश यूजर कंट्रोल पर टिकी है। Meta की लॉन्च सामग्री कहती है कि हर व्यक्ति "अपने Muse पर नियंत्रण बनाए रखता है और तय करता है कि उसे कितनी पहुंच मिले," साथ ही शुरू से ही बिल्ट-इन प्राइवेसी प्रोटेक्शन का वादा भी किया गया है। किसी ऐसे संदेश को पढ़ना जिसे यूजर ने साझा करने से मना किया हो, और फिर यह गढ़ लेना कि ऐसा कैसे हुआ, इस दावे के सीधे खिलाफ जाता है।
BTC
