Minnesota está luchando contra xAI de Elon Musk por el intento de la compañía de bloquear la HF-1606, una ley estatal pionera que apunta a las herramientas de IA que generan imágenes sexuales realistas de personas identificables.

En una presentación judicial del viernes, el Fiscal General de Minnesota, Keith Ellison, argumentó que es poco probable que xAI tenga éxito en su desafío constitucional y no ha logrado demostrar que la aplicación de la ley causaría un daño irreparable.

"Con Grok Imagine, X.AI ha creado un mercado sin precedentes para la violencia sexual digital que prácticamente no presenta barreras de entrada", escribió Ellison. "Ese mercado, junto con las capacidades funcionales de Grok Imagine, condenaría a Minnesota desde el principio si no pudiera dirigir sus leyes a la tecnología que hace posible la victimización sexual digital en primer lugar".

La ley, promulgada en abril y que entró en vigor el 1 de agosto, prohíbe a las plataformas y desarrolladores de software permitir a los usuarios crear imágenes realistas que muestren partes íntimas del cuerpo que no aparecían en la imagen original de una persona identificable.

Antes de la implementación de la ley, en julio, xAI demandó a Ellison para bloquear la ley, argumentando que viola la Primera Enmienda y podría aplicarse a imágenes protegidas, incluyendo hombres sin camiseta, nadadores y sátira política. Las violaciones conllevan multas de hasta $500,000 por imagen.

"No hay un puerto seguro para los esfuerzos de buena fe del proveedor de herramientas creativas de IA de propósito general para evitar daños", escribió xAI en su queja. "La responsabilidad se aplica incluso si las personas representadas dieron su consentimiento, o crearon la imagen ellas mismas, e incluso si la imagen nunca se comparte".

Minnesota aprobó la medida 132-1 en la Cámara y 65-0 en el Senado después de que los legisladores escucharan informes de un hombre que utilizó fotos de redes sociales para crear imágenes sexuales de más de 80 mujeres que conocía.

"Hoy, lideramos la nación protegiendo a mujeres, niños y a todos en la vida pública del daño causado por la tecnología de desnudez por IA", dijo la Senadora Maye Quade, quien lideró la iniciativa, en un comunicado en ese momento. "Las empresas que ponen esta tecnología a disposición de forma gratuita en línea y en las tiendas de aplicaciones ya no podrán permitir que los depredadores abusen y victimicen a adultos y niños con un clic de un botón.

El caso ahora se centra en si la ley regula el discurso o la tecnología.

Grok también ha sido objeto de escrutinio por deepfakes sexualmente explícitos.

En enero, un organismo de control estimó que Grok generó más de 23,000 imágenes sexualizadas de niños durante 11 días, lo que provocó investigaciones en varios países.

En marzo, tres menores en California se unieron a otros para demandar a xAI, alegando que Grok fue utilizado para convertir sus fotos en material de abuso sexual infantil generado por IA. xAI ha dicho que suspendió más de 50,000 cuentas y presentó más de 70,000 informes al Centro Nacional para Niños Desaparecidos y Explotados en 2026.