Wetgevers in Minnesota hebben een wetsvoorstel aangenomen dat gericht is op het stoppen van een groeiende vorm van AI-misbruik door de platforms die dit mogelijk maken aan te pakken.

Op donderdag stemde de Senaat van Minnesota met 65-0 voor het wetsvoorstel House File 1606, en stuurde het naar gouverneur Tim Walz voor zijn handtekening. De maatregel verbiedt websites en apps om tools aan te bieden die realistische nep-naaktbeelden van identificeerbare personen genereren.

Volgens het wetsvoorstel mogen bedrijven die een website, app of software-dienst beheren, gebruikers geen toegang geven tot of gebruik laten maken van tools om deze beelden te creëren of namens een gebruiker te genereren. Het adverteren of promoten van dergelijke diensten is eveneens verboden.

De maatregel stelt slachtoffers in staat om de personen of bedrijven aan te klagen die nudificatietools exploiteren of beheren, zoals websites, apps of software die nep-naaktbeelden genereren. Personen die zijn afgebeeld in door AI gegenereerde naaktbeelden kunnen schadevergoeding eisen, inclusief voor psychisch leed, en rechtbanken kunnen tot drie keer de daadwerkelijke schade toekennen, samen met punitieve schadevergoedingen, advocatenkosten en bevelen om het gedrag te staken.

Het wetsvoorstel geeft de procureur-generaal van de staat ook de bevoegdheid om de wet te handhaven, met civiele boetes tot $500.000 per overtreding. Volgens het wetsvoorstel worden deze boetes gestort in het algemene fonds van de staat en vervolgens toegewezen aan slachtofferhulp, inclusief ondersteuning voor overlevenden van seksueel geweld, huiselijk geweld en kindermisbruik.

Het wetsvoorstel richt zich op tools die weinig technische expertise vereisen en breed toegankelijk zijn geworden, ook voor minderjarigen. Indien ondertekend, treedt de wet op 1 augustus in werking en is van toepassing op nieuwe gevallen vanaf die datum.

Hoewel het nieuwe wetsvoorstel geen enkele AI-ontwikkelaar noemt, volgt het nieuws na een reeks spraakmakende incidenten op het sociale platform X, waaronder in augustus 2025, toen Elon Musks xAI-tool, Grok, naakt deepfakes van Taylor Swift genereerde. De popsuperster heeft in april stappen ondernomen om haar stem en gelijkenis te laten registreren bij het U.S. Patent Office, wellicht in een poging toekomstige AI-reproducties voor te zijn.

Musk staat ook onder toenemende juridische druk, waaronder een federale class action-rechtszaak aangespannen door drie minderjarigen uit Tennessee die beweren dat Grok kinderpornografisch materiaal van hun afbeeldingen genereerde. Ook beweert een consumentenbeschermingszaak van de stad Baltimore dat het bedrijf willens en wetens een systeem heeft ingezet dat onvrijwillige geseksualiseerde inhoud produceert en verspreidt, inclusief van minderjarigen.

Robert Weissman, mede-voorzitter van Public Citizen, zei dat de verspreiding van deze tools weergeeft hoe snel AI de drempel heeft verlaagd voor het creëren van onvrijwillige intieme beelden en het bereik ervan heeft vergroot.

“Deze apps richten zich voor 99% op vrouwen, waarvan meer dan 90% onder de 18 jaar is. Het is een instrument voor intimidatie en pesterijen van vrouwen met werkelijk ernstige psychologische gevolgen,” vertelde Weissman aan Decrypt. “Je hebt dit gezien in het hele land en over de hele wereld. De behoefte aan overheidsingrijpen en regulering is dan ook acuut.”

Weissman voegde eraan toe dat wetten op staatsniveau een rol kunnen spelen naast federale inspanningen, vooral als het gaat om handhaving. Hij zei dat lokale autoriteiten beter in staat zijn om snel te handelen in individuele gevallen, terwijl federale instanties deze misschien helemaal niet prioriteren of nastreven.

De wet van Minnesota komt ook tijdens een aanhoudende strijd tussen de regering van president Donald Trump en staten over wie de AI-regulering zou moeten controleren. De 'Take It Down Act', in mei 2025 ondertekend door president Donald Trump, criminaliseert de verspreiding van onvrijwillige intieme beelden en biedt slachtoffers een weg om civiele schadevergoeding te eisen.

“Ik denk dat complementaire federale en staatsstandaarden positief zijn, vooral in theorie. We hebben het over verschillende handhavingssystemen en handhavingsinstanties,” zei Weissman. “Dus je zou een federale standaard kunnen hebben, maar misschien niet de federale capaciteit om handhavingsmaatregelen te nemen.”

Het kantoor van gouverneur Walz reageerde niet onmiddellijk op het verzoek van Decrypt om commentaar.