xAI, perusahaan AI milik Elon Musk, mengajukan gugatan federal pada hari Senin terhadap Jaksa Agung Minnesota Keith Ellison untuk memblokir undang-undang pertama di negara itu yang menargetkan "nudifikasi" AI—perangkat lunak yang menggunakan kecerdasan buatan untuk secara digital menghilangkan atau mengubah pakaian pada foto nyata orang sungguhan—menyebutnya sebagai "larangan yang terlalu luas dan berbasis konten terhadap kebebasan berbicara dan alat ekspresi visual dalam upaya yang canggung untuk melarang nudifikasi."
Undang-undang tersebut adalah HF 1606. Undang-undang ini membuat platform mana pun bertanggung jawab mutlak—bertanggung jawab secara hukum terlepas dari pengetahuan atau niat—jika pengguna menghasilkan gambar realistis orang sungguhan yang menunjukkan bagian tubuh yang tidak pernah diekspos oleh orang tersebut. Setiap pelanggaran dapat dikenakan biaya hingga $500.000, per gambar yang dihasilkan.
Gugatan tersebut, yang diajukan di Pengadilan Distrik AS untuk Distrik Minnesota, sebenarnya tidak membela nudifikasi. "xAI karenanya tidak menentang kepentingan Minnesota dalam melarang penyebaran gambar telanjang yang dibuat secara artifisial dari orang sungguhan tanpa persetujuan mereka," demikian bunyi pengajuan tersebut. "Tetapi undang-undang yang diberlakukan Minnesota melampaui tujuan tersebut, mengekspos berbagai macam ucapan yang dilindungi ke pertanggungjawaban perdata dan sanksi pemerintah."
Masalahnya, menurut xAI, adalah bagaimana Minnesota mendefinisikan istilah tersebut. Menurut gugatan itu, negara bagian tersebut meminjam istilah "bagian intim" dari undang-undang kontak seksual kriminal—undang-undang yang ditulis untuk sentuhan tanpa persetujuan, bukan pembuatan gambar. Di bawahnya, paha bagian dalam, bokong, atau payudara semuanya memenuhi syarat secara setara. Menghasilkan gambar AI realistis seorang politisi tanpa baju, seorang wanita berbikini, atau figur publik di pantai—bahkan untuk sindiran politik—dapat memicu undang-undang dan denda.
Dan tidak ada jalan keluar bagi platform, menurut argumen xAI. "Tidak ada perlindungan hukum untuk upaya itikad baik dari penyedia alat kreatif AI tujuan umum untuk menghindari kerugian," demikian bunyi gugatan itu. "Tanggung jawab melekat bahkan jika orang yang digambarkan menyetujui—atau membuat gambar itu sendiri—dan bahkan jika gambar itu tidak pernah dibagikan."
Juga tidak ada persyaratan niat jahat (pengetahuan akan kesalahan)—pengguna yang menyelinap melewati filter internal perusahaan tetap membuat perusahaan bertanggung jawab penuh berdasarkan undang-undang ini.
Pada tahun 2026 saja perusahaan tersebut menangguhkan lebih dari 50.000 akun dan mengajukan lebih dari 70.000 laporan ke NCMEC (Pusat Nasional untuk Anak Hilang & Dieksploitasi), yang mengarah pada setidaknya 244 penangkapan. Tak satu pun dari itu menciptakan pembelaan di bawah HF 1606.
Konteks yang lebih luas di sini penting. Alat gambar Grok menghadapi masalah hampir segera setelah peluncurannya pada akhir Juli 2025, menghasilkan deepfake—gambar sintetis orang nyata yang dihasilkan AI—dengan perintah teks sederhana, memicu penyelidikan regulasi di seluruh Eropa, Australia, dan beberapa negara bagian AS. Kota-kota seperti Baltimore dan tiga anak di bawah umur Tennessee secara terpisah menggugat xAI atas hasil deepfake Grok. Perusahaan ini juga menantang undang-undang AI Colorado pada bulan April atas dasar Amandemen Pertama yang serupa.
Minnesota mengesahkan HF 1606 dengan suara 132-1 di Dewan Perwakilan Rakyat dan 65-0 di Senat, setelah seorang pria menggunakan foto media sosial untuk menghasilkan gambar seksual lebih dari 80 wanita yang dikenalnya. Pendukung RUU di Senat, Senator Erin Maye Quade, mengkonfirmasi bahwa larangan undang-undang terhadap gambar konsensual adalah "disengaja."
Undang-Undang Federal TAKE IT DOWN—yang ditandatangani oleh Presiden Donald Trump pada Mei 2025—sudah mencakup deepfake intim tanpa persetujuan, tetapi memerlukan bukti tidak adanya persetujuan dan distribusi yang sebenarnya, menggunakan definisi bagian tubuh yang lebih sempit, dan mencakup pengecualian untuk konten pendidikan dan medis. xAI berpendapat bahwa itu adalah model yang seharusnya diadopsi Minnesota.
Jaksa Agung Ellison tidak akan mundur. "Nudifikasi AI merampas martabat targetnya dan dapat menyebabkan kerugian besar pada tingkat emosional, pribadi, dan profesional," katanya setelah gugatan diajukan.
HF 1606 mulai berlaku pada hari Sabtu. xAI ingin seorang hakim federal menghentikannya sebelum itu.
