Minnesota está combatendo a xAI de Elon Musk devido à tentativa da empresa de bloquear a HF-1606, uma lei estadual pioneira que visa ferramentas de IA que geram imagens sexuais realistas de pessoas identificáveis.

Em um documento judicial de sexta-feira, o Procurador-Geral de Minnesota, Keith Ellison, argumentou que a xAI provavelmente não terá sucesso em seu desafio constitucional e falhou em demonstrar que a aplicação da lei causaria danos irreparáveis.

“Com o Grok Imagine, a X.AI criou um mercado sem precedentes para a violência sexual digital que praticamente não apresenta barreiras de entrada”, escreveu Ellison. “Esse mercado, juntamente com as capacidades funcionais do Grok Imagine, condenaria Minnesota desde o início se não pudesse direcionar suas leis para a tecnologia que torna a vitimização sexual digital possível em primeiro lugar.”

A lei, promulgada em abril e que entrou em vigor em 1º de agosto, proíbe plataformas e desenvolvedores de software de permitir que usuários criem imagens realistas que mostrem partes íntimas do corpo que não apareceram na imagem original de uma pessoa identificável.

Antes da implementação da lei, em julho, a xAI processou Ellison para bloquear a lei, argumentando que ela viola a Primeira Emenda e poderia se aplicar a imagens protegidas, incluindo homens sem camisa, nadadores e sátira política. As violações acarretam multas de até US$ 500.000 por imagem.

"Não há porto seguro para esforços de boa-fé do provedor de ferramentas criativas de IA de propósito geral para evitar danos", escreveu a xAI em sua queixa. "A responsabilidade se aplica mesmo que as pessoas retratadas tenham consentido – ou criado a imagem elas próprias – e mesmo que a imagem nunca seja compartilhada."

Minnesota aprovou a medida por 132 a 1 na Câmara e 65 a 0 no Senado depois que os legisladores ouviram relatos de um homem que usou fotos de mídias sociais para criar imagens sexuais de mais de 80 mulheres que ele conhecia.

“Hoje, lideramos a nação na proteção de mulheres, crianças e todos na vida pública dos danos causados pela tecnologia de ‘nudificação’ por IA”, disse a Senadora Maye Quade, que liderou a iniciativa, em um comunicado na época. “Empresas que disponibilizam esta tecnologia gratuitamente online e em lojas de aplicativos não terão mais permissão para permitir que predadores abusem e vitimizem adultos e crianças com o clique de um botão.

O caso agora se concentra em saber se a lei regulamenta a expressão ou a tecnologia.

Grok também enfrentou escrutínio por deepfakes sexualmente explícitos.

Em janeiro, um órgão de vigilância estimou que o Grok gerou mais de 23.000 imagens sexualizadas de crianças em 11 dias, provocando investigações em vários países.

Em março, três menores na Califórnia se juntaram a outros para processar a xAI, alegando que o Grok foi usado para transformar suas fotos em material de abuso sexual infantil gerado por IA. A xAI disse ter suspendido mais de 50.000 contas e registrado mais de 70.000 denúncias junto ao Centro Nacional para Crianças Desaparecidas e Exploradas em 2026.