Los legisladores de Minnesota han aprobado un proyecto de ley destinado a detener una forma creciente de abuso de la IA, dirigiéndose a las plataformas que lo facilitan.
El jueves, el Senado de Minnesota votó 65-0 para aprobar el Proyecto de Ley 1606 de la Cámara, enviándolo al Gobernador Tim Walz para su firma. La medida prohíbe a los sitios web y aplicaciones ofrecer herramientas que generen imágenes nudas falsas realistas de personas identificables.
Según el proyecto de ley, las empresas que controlan un sitio web, una aplicación o un servicio de software no pueden permitir a los usuarios acceder o utilizar herramientas para crear estas imágenes o generarlas en nombre de un usuario. También se prohíbe la publicidad o promoción de dichos servicios.
La medida permite a las víctimas demandar a las personas o empresas que operan o controlan herramientas de "nudificación", como sitios web, aplicaciones o software que generan imágenes nudas falsas. Las personas representadas en imágenes nudas generadas por IA pueden solicitar daños y perjuicios, incluyendo angustia mental, y los tribunales pueden conceder hasta el triple de los daños reales, junto con daños punitivos, honorarios de abogados y órdenes para cesar la conducta.
El proyecto de ley también otorga al fiscal general del estado el poder de hacer cumplir la ley, con sanciones civiles de hasta $500,000 por uso. Según el proyecto de ley, esas sanciones se dirigen al fondo general del estado y luego se asignan a servicios para víctimas, incluido el apoyo a sobrevivientes de agresión sexual, violencia doméstica y abuso infantil.
El proyecto de ley se dirige a herramientas que requieren poca experiencia técnica y se han vuelto ampliamente accesibles, incluso para menores. Si se firma, la ley entrará en vigor el 1 de agosto y se aplicará a los nuevos casos a partir de esa fecha.
Si bien el nuevo proyecto de ley no hace referencia a ningún desarrollador de IA en particular, la noticia surge tras una serie de incidentes de alto perfil en la plataforma social X, incluyendo en agosto de 2025, cuando la herramienta xAI de Elon Musk, Grok, generó deepfakes desnudos de Taylor Swift. La superestrella del pop solicitó en abril el registro de su voz e imagen en la Oficina de Patentes de EE. UU., quizás en un movimiento para evitar futuras reproducciones de IA.
Musk también se enfrenta a una creciente presión legal, incluyendo una demanda colectiva federal presentada por tres menores de Tennessee que alegan que Grok generó material de abuso sexual infantil a partir de sus imágenes. Además, una demanda de protección al consumidor de la ciudad de Baltimore afirma que la empresa desplegó a sabiendas un sistema que produce y difunde contenido sexualizado no consensuado, incluyendo el de menores.
Robert Weissman, copresidente de Public Citizen, dijo que la proliferación de estas herramientas refleja la rapidez con la que la IA ha reducido la barrera para crear imágenes íntimas no consensuadas y ha ampliado su alcance.
“Estas aplicaciones apuntan en un 99% a mujeres, más del 90% de las cuales son menores de 18 años. Es una herramienta de intimidación y acoso de mujeres con consecuencias psicológicas realmente graves”, dijo Weissman a Decrypt. “Esto se ha visto en todo el país y el mundo. Por lo tanto, la necesidad de intervención y regulación gubernamental es apremiante”.
Weissman añadió que las leyes a nivel estatal pueden desempeñar un papel junto con los esfuerzos federales, especialmente en lo que respecta a la aplicación. Dijo que las autoridades locales pueden estar mejor posicionadas para actuar rápidamente en casos individuales, mientras que las agencias federales pueden no priorizarlos o perseguirlos en absoluto.
La ley de Minnesota también surge durante una lucha continua entre la administración del presidente Donald Trump y los estados sobre quién debe controlar la regulación de la IA. La Ley "Take It Down" (Retírenlo), promulgada por el presidente Donald Trump en mayo de 2025, criminaliza la distribución de imágenes íntimas no consensuadas y proporciona a las víctimas una vía para buscar daños civiles.
“Creo que tener estándares federales y estatales complementarios es positivo, particularmente en teoría. Estamos hablando de diferentes sistemas y agencias de aplicación”, dijo Weissman. “Así que podrías tener un estándar federal, pero es posible que no tengas la capacidad federal para llevar a cabo acciones de aplicación”.
La oficina del Gobernador Walz no respondió de inmediato a la solicitud de comentarios de Decrypt.
