Legisladores de Minnesota aprovaram um projeto de lei com o objetivo de conter uma forma crescente de abuso de IA, visando as plataformas que a permitem.

Na quinta-feira, o Senado de Minnesota votou 65-0 para aprovar o House File 1606, enviando-o ao Governador Tim Walz para sua sanção. A medida proíbe sites e aplicativos de oferecer ferramentas que geram imagens nuas falsas realistas de pessoas identificáveis.

De acordo com o projeto de lei, empresas que controlam um site, aplicativo ou serviço de software não podem permitir que usuários acessem ou usem ferramentas para criar essas imagens ou gerá-las em nome de um usuário. Anunciar ou promover tais serviços também é proibido.

A medida permite que as vítimas processem as pessoas ou empresas que operam ou controlam ferramentas de nudificação, como sites, aplicativos ou softwares que geram imagens nuas falsas. Pessoas retratadas em imagens nuas geradas por IA podem buscar indenizações, incluindo por sofrimento mental, e os tribunais podem conceder até três vezes os danos reais, juntamente com danos punitivos, honorários advocatícios e ordens para cessar a conduta.

O projeto de lei também confere ao procurador-geral do estado o poder de aplicar a lei, com penalidades civis de até US$ 500.000 por uso. De acordo com o projeto, essas penalidades são direcionadas ao fundo geral do estado e, em seguida, destinadas a serviços de apoio às vítimas, incluindo sobreviventes de agressão sexual, violência doméstica e abuso infantil.

O projeto de lei visa ferramentas que exigem pouca expertise técnica e que se tornaram amplamente acessíveis, inclusive para menores. Se sancionada, a lei entrará em vigor em 1º de agosto e se aplicará a novos casos a partir dessa data.

Embora o novo projeto de lei não faça referência a nenhum desenvolvedor de IA específico, a notícia surge após uma série de incidentes de alto perfil na plataforma social X, incluindo em agosto de 2025, quando a ferramenta xAI de Elon Musk, Grok, gerou deepfakes nuas de Taylor Swift. A superestrela pop buscou registrar sua voz e imagem no Escritório de Patentes dos EUA em abril, talvez em uma tentativa de evitar futuras reproduções por IA.

Musk também está enfrentando crescentes pressões legais, incluindo uma ação coletiva federal movida por três menores do Tennessee alegando que o Grok gerou material de abuso sexual infantil a partir de suas imagens. Além disso, uma ação judicial de proteção ao consumidor da cidade de Baltimore afirma que a empresa implantou conscientemente um sistema que produz e dissemina conteúdo sexualizado não consensual, incluindo de menores.

Robert Weissman, copresidente da Public Citizen, afirmou que a disseminação dessas ferramentas reflete a rapidez com que a IA diminuiu a barreira para a criação de imagens íntimas não consensuais e expandiu seu alcance.

“Esses aplicativos visam 99% mulheres, mais de 90% das quais têm menos de 18 anos. É uma ferramenta de intimidação e assédio de mulheres com consequências psicológicas realmente graves”, disse Weissman ao Decrypt. “Você viu isso em todo o país e no mundo. Portanto, a necessidade de intervenção e regulamentação governamental é aguda.”

Weissman acrescentou que as leis estaduais podem desempenhar um papel ao lado dos esforços federais, especialmente no que diz respeito à fiscalização. Ele disse que as autoridades locais podem estar mais bem posicionadas para agir rapidamente em casos individuais, enquanto as agências federais podem não priorizá-los ou persegui-los de forma alguma.

A lei de Minnesota também surge durante uma disputa contínua entre a administração do Presidente Donald Trump e os estados sobre quem deve controlar a regulamentação da IA. O Take It Down Act, sancionado pelo Presidente Donald Trump em maio de 2025, criminaliza a distribuição de imagens íntimas não consensuais e oferece às vítimas um caminho para buscar indenizações civis.

“Acho que ter padrões federais e estaduais complementares é positivo, particularmente em teoria. Estamos falando de diferentes sistemas e agências de fiscalização”, disse Weissman. “Então você pode ter um padrão federal, mas pode não ter capacidade federal para realizar ações de fiscalização.”

O gabinete do Governador Walz não respondeu imediatamente ao pedido de comentário do Decrypt.