Die Gesetzgeber in Minnesota haben einen Gesetzentwurf verabschiedet, der darauf abzielt, eine wachsende Form des KI-Missbrauchs zu unterbinden, indem er die Plattformen ins Visier nimmt, die dies ermöglichen.
Am Donnerstag stimmte der Senat von Minnesota mit 65 zu 0 Stimmen für die Verabschiedung des House File 1606 und leitete es zur Unterschrift an Gouverneur Tim Walz weiter. Die Maßnahme verbietet Websites und Apps, Tools anzubieten, die realistische gefälschte Nacktbilder von identifizierbaren Personen erzeugen.
Gemäß dem Gesetzentwurf dürfen Unternehmen, die eine Website, App oder einen Softwaredienst kontrollieren, Benutzern keinen Zugang zu oder die Nutzung von Tools erlauben, die solche Bilder erstellen oder in deren Namen generieren. Das Bewerben oder Fördern solcher Dienste ist ebenfalls untersagt.
Die Maßnahme ermöglicht es Opfern, die Personen oder Unternehmen zu verklagen, die Nacktfizierungstools betreiben oder kontrollieren, wie z.B. Websites, Apps oder Software, die gefälschte Nacktbilder generieren. Personen, die in KI-generierten Nacktbildern dargestellt werden, können Schadenersatz, einschließlich für seelisches Leid, fordern, und Gerichte können bis zum Dreifachen des tatsächlichen Schadensersatzes, zusammen mit Strafschadensersatz, Anwaltskosten und Anordnungen zur Beendigung des Verhaltens, zusprechen.
Der Gesetzentwurf ermächtigt auch den Generalstaatsanwalt des Staates, das Gesetz durchzusetzen, mit zivilrechtlichen Strafen von bis zu 500.000 US-Dollar pro Vergehen. Laut dem Gesetzentwurf werden diese Strafen in den allgemeinen Fonds des Staates geleitet und dann für Opferdienste bereitgestellt, einschließlich Unterstützung für Überlebende von sexuellem Übergriffen, häuslicher Gewalt und Kindesmissbrauch.
Der Gesetzentwurf zielt auf Tools ab, die wenig technisches Fachwissen erfordern und weithin zugänglich geworden sind, auch für Minderjährige. Falls unterzeichnet, tritt das Gesetz am 1. August in Kraft und gilt für neue Fälle ab diesem Datum.
Obwohl der neue Gesetzentwurf keinen einzelnen KI-Entwickler referenziert, folgt die Nachricht auf eine Reihe von hochkarätigen Vorfällen auf der sozialen Plattform X, darunter im August 2025, als Elon Musks xAI-Tool Grok Nackt-Deepfakes von Taylor Swift generierte. Der Pop-Superstar beantragte im April beim US-Patentamt den Markenschutz ihrer Stimme und ihres Abbilds, möglicherweise in einem Versuch, zukünftige KI-Reproduktionen zu verhindern.
Musk sieht sich auch wachsendem rechtlichem Druck gegenüber, darunter eine Bundes-Sammelklage, die von drei Minderjährigen aus Tennessee eingereicht wurde, die behaupten, Grok habe Kindesmissbrauchsmaterial aus ihren Bildern generiert. Eine Verbraucherschutzklage der Stadt Baltimore behauptet ebenfalls, das Unternehmen habe wissentlich ein System eingesetzt, das nicht einvernehmliche sexualisierte Inhalte, einschließlich solcher von Minderjährigen, produziert und verbreitet.
Robert Weissman, Co-Präsident von Public Citizen, sagte, die Verbreitung dieser Tools spiegele wider, wie schnell KI die Hürde zur Erstellung nicht einvernehmlicher intimer Bilder gesenkt und deren Reichweite erweitert habe.
„Diese Apps richten sich zu 99% an Frauen, von denen über 90% unter 18 sind. Es ist ein Werkzeug der Einschüchterung und Belästigung von Frauen mit wirklich schwerwiegenden psychologischen Folgen“, sagte Weissman gegenüber Decrypt. „Das haben Sie im ganzen Land und in der ganzen Welt gesehen. Daher ist der Bedarf an staatlicher Intervention und Regulierung akut.“
Weissman fügte hinzu, dass Gesetze auf Landesebene neben den bundesweiten Bemühungen eine Rolle spielen können, insbesondere wenn es um die Durchsetzung geht. Er sagte, lokale Behörden seien möglicherweise besser in der Lage, in Einzelfällen schnell zu handeln, während Bundesbehörden diese möglicherweise gar nicht priorisieren oder verfolgen.
Das Gesetz von Minnesota kommt auch inmitten eines anhaltenden Streits zwischen der Regierung von Präsident Donald Trump und den Bundesstaaten darüber, wer die KI-Regulierung kontrollieren soll. Der Take It Down Act, der im Mai 2025 von Präsident Donald Trump unterzeichnet wurde, kriminalisiert die Verbreitung nicht einvernehmlicher intimer Bilder und bietet Opfern einen Weg, zivilrechtlichen Schadenersatz zu fordern.
„Ich denke, komplementäre bundesweite und staatliche Standards sind positiv, besonders in der Theorie. Wir sprechen über verschiedene Durchsetzungssysteme und Durchsetzungsbehörden“, sagte Weissman. „Man könnte also einen Bundesstandard haben, aber möglicherweise nicht die bundesweite Kapazität, Durchsetzungsmaßnahmen zu ergreifen.“
Das Büro von Gouverneur Walz reagierte nicht sofort auf die Anfrage von Decrypt nach einem Kommentar.
