मिनेसोटा एलन मस्क की xAI से HF-1606 को रोकने के कंपनी के प्रयास को लेकर लड़ रहा है, जो पहचान योग्य लोगों की यथार्थवादी यौन छवियां बनाने वाले AI उपकरणों को लक्षित करने वाला अपनी तरह का पहला राज्य कानून है।

शुक्रवार को एक अदालती फाइलिंग में, मिनेसोटा के अटॉर्नी जनरल कीथ एलिसन ने तर्क दिया कि xAI को अपनी संवैधानिक चुनौती में सफल होने की संभावना नहीं है और यह दिखाने में विफल रहा है कि कानून को लागू करने से अपूरणीय क्षति होगी।

एलिसन ने लिखा, “ग्रोक इमेज के साथ, X.AI ने डिजिटल यौन हिंसा के लिए एक बेजोड़ बाज़ार बनाया है जिसमें प्रवेश के लिए वस्तुतः कोई बाधा नहीं है।” “यह बाज़ार, ग्रोक इमेज की कार्यात्मक क्षमताओं के साथ मिलकर, मिनेसोटा को शुरू से ही बर्बाद कर देगा यदि वह अपने कानूनों को उस तकनीक की ओर निर्देशित नहीं कर पाता जो पहली बार में डिजिटल यौन शोषण को संभव बनाती है।”

यह कानून, जिसे अप्रैल में अधिनियमित किया गया था और 1 अगस्त को लागू हुआ, प्लेटफॉर्म और सॉफ्टवेयर डेवलपर्स को उपयोगकर्ताओं को ऐसे यथार्थवादी चित्र बनाने की अनुमति देने से रोकता है जो पहचान योग्य व्यक्ति की मूल छवि में दिखाई नहीं देने वाले अंतरंग शरीर के अंगों को दर्शाते हैं।

कानून के लागू होने से पहले, जुलाई में, xAI ने एलिसन पर मुकदमा दायर कर कानून को रोकने की मांग की, यह तर्क देते हुए कि यह फर्स्ट अमेंडमेंट का उल्लंघन करता है और संरक्षित छवियों, जिसमें शर्टलेस पुरुष, तैराक और राजनीतिक व्यंग्य शामिल हैं, पर लागू हो सकता है। उल्लंघनों पर प्रति छवि $500,000 तक का जुर्माना लग सकता है।

xAI ने अपनी शिकायत में लिखा, "सामान्य-उद्देश्य वाले AI रचनात्मक उपकरणों के प्रदाता के अच्छे-विश्वास प्रयासों के लिए कोई सुरक्षित आश्रय नहीं है।" "देयता तब भी लागू होती है, भले ही चित्रित व्यक्तियों ने सहमति दी हो - या उन्होंने स्वयं छवि बनाई हो - और भले ही छवि कभी साझा न की गई हो।"

मिनेसोटा ने सदन में 132-1 और सीनेट में 65-0 से इस उपाय को पारित किया, जब कानूनविदों ने एक ऐसे व्यक्ति की रिपोर्ट सुनी जिसने सोशल मीडिया तस्वीरों का उपयोग करके 80 से अधिक महिलाओं की यौन छवियां बनाई थीं जिन्हें वह जानता था।

सीनेटर मे क्वाडे, जिन्होंने इस अभियान का नेतृत्व किया, ने उस समय एक बयान में कहा, “आज, हमने AI नूडिफिकेशन तकनीक से होने वाले नुकसान से महिलाओं, बच्चों और सार्वजनिक जीवन में सभी की रक्षा करने में देश का नेतृत्व किया है।” “जो कंपनियां इस तकनीक को मुफ्त में ऑनलाइन और ऐप स्टोर में उपलब्ध कराती हैं, उन्हें अब उन शिकारियों को सक्षम करने की अनुमति नहीं दी जाएगी जो एक बटन के क्लिक से वयस्कों और बच्चों का दुरुपयोग और शिकार करते हैं।

यह मामला अब इस बात पर केंद्रित है कि क्या कानून भाषण को नियंत्रित करता है या प्रौद्योगिकी को।

ग्रोक को यौन रूप से स्पष्ट डीपफेक को लेकर भी जांच का सामना करना पड़ा है।

जनवरी में, एक निगरानीकर्ता ने अनुमान लगाया कि ग्रोक ने 11 दिनों में बच्चों की 23,000 से अधिक यौन-उन्मुख छवियां बनाईं, जिससे कई देशों में जांच शुरू हुई।

मार्च में, कैलिफ़ोर्निया के तीन नाबालिगों ने दूसरों के साथ मिलकर xAI पर मुकदमा दायर किया, जिसमें आरोप लगाया गया कि ग्रोक का उपयोग उनकी तस्वीरों को AI-जनित बाल यौन शोषण सामग्री में बदलने के लिए किया गया था। xAI ने कहा है कि उसने 50,000 से अधिक खातों को निलंबित कर दिया और 2026 में नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चिल्ड्रन के पास 70,000 से अधिक रिपोर्ट दर्ज कीं।