Lumalaban ang Minnesota sa xAI ni Elon Musk hinggil sa pagtatangka ng kumpanya na hadlangan ang HF-1606, isang batas ng estado na kauna-unahan sa uri nito na tumutukoy sa mga AI tool na lumilikha ng makatotohanang seksuwal na larawan ng mga taong makikilala.
Sa isang paghahain sa korte noong Biyernes, iginiit ni Minnesota Attorney General Keith Ellison na malabong magtagumpay ang xAI sa constitutional challenge nito at nabigo itong ipakita na ang pagpapatupad ng batas ay magdudulot ng di-maibabalik na pinsala.
“Sa Grok Imagine, lumikha ang X.AI ng isang walang kapantay na pamilihan para sa digital na seksuwal na karahasan na halos walang hadlang sa pagpasok,” isinulat ni Ellison. “Ang pamilihang iyon, kaakibat ng mga functional na kakayahan ng Grok Imagine, ay magpapahamak sa Minnesota mula pa sa simula kung hindi nito maididirekta ang mga batas nito sa teknolohiya na nagpapangyari sa digital na seksuwal na pagiging biktima sa unang lugar.”
Ang batas, na pinagtibay noong Abril at nagsimulang ipatupad noong Agosto 1, ay nagbabawal sa mga platform at software developer na payagan ang mga user na lumikha ng makatotohanang larawan na nagpapakita ng mga pribadong bahagi ng katawan na hindi lumabas sa orihinal na larawan ng isang taong makikilala.
Bago ang pagpapatupad ng batas, noong Hulyo, kinasuhan ng xAI si Ellison upang harangin ang batas, na iginigiit na lumalabag ito sa First Amendment at maaaring mailapat sa mga protektadong larawan, kabilang ang mga lalaking walang damit, mga manlalangoy, at political satire. Ang mga paglabag ay may kaakibat na parusa na hanggang $500,000 bawat larawan.
“Walang ligtas na kanlungan para sa mga pagsisikap na may mabuting hangarin ng nagbibigay ng mga general-purpose na AI creative tool upang maiwasan ang mga pinsala,” isinulat ng xAI sa reklamo nito. “May pananagutan kahit pa pumayag ang mga taong inilarawan—o sila mismo ang lumikha ng larawan—at kahit pa hindi kailanman naibahagi ang larawan.”
Ipinasa ng Minnesota ang panukala na may 132-1 sa House at 65-0 sa Senate matapos marinig ng mga mambabatas ang mga ulat tungkol sa isang lalaki na gumamit ng mga larawan sa social media upang lumikha ng mga seksuwal na larawan ng mahigit 80 babaeng kilala niya.
“Ngayon, pinangunahan natin ang bansa sa pagprotekta sa mga kababaihan, bata at lahat ng nasa pampublikong buhay mula sa pinsalang dulot ng AI nudification technology,” sabi ni Senador Maye Quade, na nanguna sa pagtulak, sa isang pahayag noong panahong iyon. “Ang mga kumpanya na nagpapagamit ng teknolohiyang ito nang libre online at sa mga app store ay hindi na papayagang paganahin ang mga predator na umaabuso at nagiging biktima ng mga matatanda at bata sa isang pindot lang ng button.”
Ang kaso ngayon ay nakasentro sa kung ang batas ay nagreregulate ng pananalita o teknolohiya.
Nahaharap din ang Grok sa pagsusuri hinggil sa mga sexually explicit deepfake.
Noong Enero, tinantya ng isang watchdog na ang Grok ay nakabuo ng mahigit 23,000 na sexualized na larawan ng mga bata sa loob ng 11 araw, na nagbunsod ng mga imbestigasyon sa ilang bansa.
Noong Marso, tatlong menor de edad sa California ang sumama sa iba pa sa pagdemanda sa xAI, na nagsasaad na ginamit ang Grok upang gawing AI-generated na child sexual abuse material ang kanilang mga larawan. Sinabi ng xAI na sinuspinde nito ang mahigit 50,000 account at nagsumite ng mahigit 70,000 ulat sa National Center for Missing and Exploited Children noong 2026.
