OpenAI पर इस बात को लेकर मुकदमा किया जा रहा है कि आखिर आपकी ChatGPT बातचीत पढ़ने का अधिकार किसे है।
इस महीने अमेरिका के नॉर्दर्न डिस्ट्रिक्ट ऑफ कैलिफ़ोर्निया की जिला अदालत में दायर प्रस्तावित क्लास एक्शन में कंपनी पर आरोप है कि उसने लोगों को पहले ठीक से बताए बिना वास्तविक यूज़र चैट्स बाहरी ठेकेदारों तक पहुंचाईं। OpenAI को 2 सितंबर को समन तामील किया गया।
यह मुकदमा OpenAI की एक आंतरिक पहल प्रोजेक्ट लिली को निशाना बनाता है, जिसका खुलासा सबसे पहले 14 सितंबर को आउटलेट 404 Media ने किया था। शिकायत के अनुसार, "AI data reviewer" और "chatbot evaluator" जैसी भूमिकाओं के लिए थर्ड-पार्टी स्टाफिंग फर्मों के ज़रिए नियुक्त ठेकेदार वास्तविक ChatGPT प्रॉम्प्ट्स और पूरी बातचीत पढ़ते हैं, यह सारांश बनाते हैं कि यूज़र क्या करना चाह रहा था, और फिर मॉडल के चार अलग-अलग जवाबों को एक से सात के पैमाने पर स्कोर और आलोचना करते हैं।
यह प्रक्रिया उस बुनियादी तरीके का हिस्सा है जिससे ChatGPT जैसे चैटबॉट वास्तव में अधिक स्मार्ट बनते हैं। सरल शब्दों में, इंसान AI के जवाबों को ग्रेड देते हैं, और वे ग्रेड दोबारा ट्रेनिंग में फीड किए जाते हैं ताकि मॉडल सीख सके कि लोग किस तरह के जवाब पसंद करते हैं। इंडस्ट्री में इस तकनीक को RLHF यानी reinforcement learning from human feedback कहा जाता है। मुकदमे का आरोप यह है कि उपयोगकर्ताओं को कभी स्पष्ट रूप से नहीं बताया गया कि उनकी चैट सिर्फ मशीन नहीं, बल्कि कोई इंसान भी पढ़ सकता है।
OpenAI किसी इंसान के देखने से पहले बातचीत को एक ऑटोमेटेड सिस्टम से गुजारता है। लेकिन शिकायत में आरोप है कि यह फ़िल्टर हमेशा सब कुछ नहीं पकड़ पाता, यानी व्यक्तिगत विवरण कभी-कभी फिर भी ठेकेदारों तक पहुंच जाते हैं।
404 Media ने पाया कि रिव्यूअर्स एक ऐसे डैशबोर्ड पर काम करते हैं जिसमें "user memories summary" शामिल होता है—किसी व्यक्ति की पिछली चैट्स का सार, जो उनके यूज़रनेम हटाए जाने के बावजूद उनकी सामान्य लोकेशन, पेशा या निजी जीवन जैसे विवरण उजागर कर सकता है। OpenAI ने कहा है कि इन रिव्यूज़ का उद्देश्य दो खास व्यवहारों को कम करना है: चैटबॉट का बहुत ज़्यादा इंसान जैसा व्यवहार करना, और उसका बहुत ज़्यादा सहमत होने वाला होना। शोधकर्ता इस गुण को sycophancy कहते हैं, जिसमें AI सटीक जवाब देने के बजाय यूज़र को वही बताता है जो उसे लगता है कि यूज़र सुनना चाहता है।
→
ChatGPT के 900 मिलियन से अधिक साप्ताहिक उपयोगकर्ता हैं, और उनमें से बहुत से लोग इसे डायरी, थेरेपिस्ट, या ऐसे सर्च इंजन की तरह इस्तेमाल करते हैं जिसे सिर्फ वे ही देख सकते हैं।
लोग इसमें स्वास्थ्य लक्षण, ब्रेकअप संदेश, टैक्स संबंधी सवाल, कानूनी परेशानियां लिखते हैं। मुकदमे में कहा गया है कि OpenAI की प्राइवेसी पॉलिसी कुछ बाहरी पक्षों की श्रेणियों का नाम तो लेती है जिन्हें यूज़र डेटा तक पहुंच मिलती है, लेकिन वह data annotation या human evaluation vendors को इनमें से एक के रूप में विशेष रूप से चिन्हित नहीं करती।
शिकायत में आठ अलग-अलग कानूनी दावे शामिल हैं, जिनमें कैलिफ़ोर्निया के Unfair Competition Law, उसके Consumer Privacy Act के उल्लंघन, और common-law claims जैसे intrusion upon seclusion भी शामिल हैं—यह एक प्राइवेसी टॉर्ट है, जो किसी के निजी मामलों में ऐसे दखल को कवर करता है जिसे एक समझदार व्यक्ति आपत्तिजनक मानेगा।
वादी हर्जाना, प्रतिपूर्ति और दंडात्मक क्षतिपूर्ति की मांग कर रहे हैं।
निषेधाज्ञा के मामले में मांग काफ़ी स्पष्ट है। वादी चाहते हैं कि किसी भी बातचीत को बाहरी रिव्यूअर के पास भेजने से पहले OpenAI opt-in सहमति अनिवार्य करे, "Improve the model for everyone" सेटिंग को डिफ़ॉल्ट रूप से ऑन के बजाय ऑफ़ करे, चैट विंडो के भीतर ही एक स्पष्ट चेतावनी जोड़े, और जिन समीक्षा की गई बातचीतों से जुड़े वर्क प्रोडक्ट का उपयोग हुआ है, उन्हें संभावित रूप से हटाए, साथ ही उन मॉडलों को फिर से ट्रेन करे जिनमें उस सामग्री का उपयोग किया गया था।
OpenAI का जवाब 13 अक्टूबर तक देना है।
BTC
