Le Minnesota s'oppose à xAI d'Elon Musk concernant la tentative de l'entreprise de bloquer la loi d'État HF-1606, une législation inédite visant les outils d'IA qui génèrent des images sexuelles réalistes de personnes identifiables.
Dans un document déposé vendredi devant le tribunal, le procureur général du Minnesota, Keith Ellison, a fait valoir que xAI a peu de chances de réussir son recours constitutionnel et n'a pas démontré que l'application de la loi causerait un préjudice irréparable.
« Avec Grok Imagine, X.AI a créé un marché inégalé pour la violence sexuelle numérique qui ne présente pratiquement aucune barrière à l'entrée », a écrit Ellison. « Ce marché, couplé aux capacités fonctionnelles de Grok Imagine, condamnerait le Minnesota dès le départ s'il ne pouvait pas orienter ses lois vers la technologie qui rend la victimisation sexuelle numérique possible en premier lieu. »
La loi, promulguée en avril et entrée en vigueur le 1er août, interdit aux plateformes et aux développeurs de logiciels d'autoriser les utilisateurs à créer des images réalistes montrant des parties intimes du corps qui n'apparaissaient pas dans l'image originale d'une personne identifiable.
Avant l'application de la loi, en juillet, xAI a poursuivi Ellison pour bloquer la loi, arguant qu'elle viole le premier amendement et pourrait s'appliquer à des images protégées, y compris des hommes torse nu, des nageurs et de la satire politique. Les violations entraînent des pénalités pouvant atteindre 500 000 $ par image.
« Il n'y a pas de protection pour les efforts de bonne foi du fournisseur d'outils créatifs d'IA à usage général pour éviter les préjudices », a écrit xAI dans sa plainte. « La responsabilité est engagée même si les personnes représentées ont consenti – ou ont créé l'image elles-mêmes – et même si l'image n'est jamais partagée. »
Le Minnesota a adopté la mesure par 132 voix contre 1 à la Chambre et 65 voix contre 0 au Sénat après que les législateurs ont entendu des témoignages concernant un homme qui avait utilisé des photos des réseaux sociaux pour créer des images sexuelles de plus de 80 femmes qu'il connaissait.
« Aujourd'hui, nous avons été les premiers dans la nation à protéger les femmes, les enfants et toute personne dans la vie publique des préjudices causés par la technologie de nudification par IA », a déclaré la sénatrice Maye Quade, qui a mené cette initiative, dans un communiqué à l'époque. « Les entreprises qui rendent cette technologie disponible gratuitement en ligne et dans les magasins d'applications ne seront plus autorisées à permettre aux prédateurs qui abusent et victimisent les adultes et les enfants d'un simple clic.
L'affaire porte désormais sur la question de savoir si la loi réglemente la liberté d'expression ou la technologie.
Grok a également fait l'objet d'un examen minutieux concernant les deepfakes à caractère sexuel explicite.
En janvier, un organisme de surveillance a estimé que Grok avait généré plus de 23 000 images sexualisées d'enfants en 11 jours, ce qui a déclenché des enquêtes dans plusieurs pays.
En mars, trois mineurs californiens se sont joints à d'autres pour poursuivre xAI, alléguant que Grok avait été utilisé pour transformer leurs photos en matériel pédopornographique généré par l'IA. xAI a déclaré avoir suspendu plus de 50 000 comptes et déposé plus de 70 000 signalements auprès du Centre national pour les enfants disparus et exploités en 2026.
