Minnesota đang đối đầu với xAI của Elon Musk liên quan đến nỗ lực của công ty này nhằm chặn HF-1606, một luật cấp bang lần đầu tiên được ban hành, nhắm vào các công cụ AI tạo ra hình ảnh tình dục chân thực của những người có thể nhận dạng.

Trong một hồ sơ tòa án vào thứ Sáu, Tổng chưởng lý Minnesota Keith Ellison lập luận rằng xAI khó có thể thành công trong việc thách thức hiến pháp và đã không chứng minh được rằng việc thực thi luật này sẽ gây ra thiệt hại không thể khắc phục.

“Với Grok Imagine, X.AI đã tạo ra một thị trường bạo lực tình dục kỹ thuật số chưa từng có, hầu như không có rào cản nào,” Ellison viết. “Thị trường đó, cùng với các khả năng chức năng của Grok Imagine, sẽ hủy hoại Minnesota ngay từ đầu nếu bang này không thể áp dụng luật của mình vào công nghệ đã tạo điều kiện cho việc nạn nhân hóa tình dục kỹ thuật số ngay từ đầu.”

Luật này, được ban hành vào tháng 4 và có hiệu lực từ ngày 1 tháng 8, cấm các nền tảng và nhà phát triển phần mềm cho phép người dùng tạo ra hình ảnh chân thực hiển thị các bộ phận cơ thể nhạy cảm không xuất hiện trong hình ảnh gốc của một người có thể nhận dạng được.

Trước khi luật có hiệu lực, vào tháng 7, xAI đã kiện Ellison để ngăn chặn luật này, lập luận rằng nó vi phạm Tu chính án thứ nhất và có thể áp dụng cho các hình ảnh được bảo vệ, bao gồm đàn ông cởi trần, người bơi lội và châm biếm chính trị. Vi phạm có thể bị phạt tới 500.000 đô la cho mỗi hình ảnh.

"Không có nơi trú ẩn an toàn nào cho những nỗ lực thiện chí của nhà cung cấp các công cụ sáng tạo AI đa năng để tránh gây hại," xAI viết trong đơn khiếu nại của mình. "Trách nhiệm pháp lý vẫn phát sinh ngay cả khi những người được miêu tả đã đồng ý—hoặc tự tạo ra hình ảnh—và ngay cả khi hình ảnh không bao giờ được chia sẻ."

Minnesota đã thông qua dự luật này với 132 phiếu thuận và 1 phiếu chống tại Hạ viện, cùng với 65 phiếu thuận và 0 phiếu chống tại Thượng viện sau khi các nhà lập pháp nghe báo cáo về một người đàn ông đã sử dụng ảnh mạng xã hội để tạo ra hình ảnh tình dục của hơn 80 phụ nữ mà anh ta quen biết.

“Hôm nay, chúng tôi đã dẫn dắt quốc gia bảo vệ phụ nữ, trẻ em và tất cả mọi người trong đời sống công cộng khỏi những tổn hại do công nghệ khỏa thân hóa bằng AI gây ra,” Thượng nghị sĩ Maye Quade, người dẫn đầu nỗ lực này, cho biết trong một tuyên bố vào thời điểm đó. “Các công ty cung cấp công nghệ này miễn phí trực tuyến và trên các cửa hàng ứng dụng sẽ không còn được phép tạo điều kiện cho những kẻ săn mồi lạm dụng và gây hại cho người lớn và trẻ em chỉ bằng một cú nhấp chuột.”

Vụ án hiện tập trung vào việc liệu luật này điều chỉnh lời nói hay công nghệ.

Grok cũng phải đối mặt với sự giám sát chặt chẽ về các deepfake khiêu dâm.

Vào tháng 1, một tổ chức giám sát ước tính Grok đã tạo ra hơn 23.000 hình ảnh tình dục hóa trẻ em trong vòng 11 ngày, dẫn đến các cuộc điều tra ở một số quốc gia.

Vào tháng 3, ba trẻ vị thành niên ở California đã cùng với những người khác kiện xAI, cáo buộc Grok được sử dụng để biến ảnh của họ thành tài liệu lạm dụng tình dục trẻ em do AI tạo ra. xAI cho biết họ đã đình chỉ hơn 50.000 tài khoản và nộp hơn 70.000 báo cáo cho Trung tâm Quốc gia về Trẻ em Mất tích và Bị Bóc lột vào năm 2026.