Minnesota se luptă cu xAI-ul lui Elon Musk în legătură cu încercarea companiei de a bloca HF-1606, o lege de stat unică de acest gen, care vizează instrumentele AI ce generează imagini sexuale realiste ale unor persoane identificabile.

Într-o declarație depusă vineri la tribunal, Procurorul General al statului Minnesota, Keith Ellison, a susținut că este puțin probabil ca xAI să reușească în contestația sa constituțională și nu a reușit să demonstreze că aplicarea legii ar provoca prejudicii ireparabile.

„Cu Grok Imagine, X.AI a creat o piață fără precedent pentru violența sexuală digitală, care nu prezintă practic nicio barieră de intrare”, a scris Ellison. „Această piață, împreună cu capacitățile funcționale ale Grok Imagine, ar condana Minnesota de la bun început dacă nu ar putea să-și dirijeze legile către tehnologia care face posibilă victimizarea sexuală digitală în primul rând.”

Legea, adoptată în aprilie și intrată în vigoare la 1 august, interzice platformelor și dezvoltatorilor de software să permită utilizatorilor să creeze imagini realiste care prezintă părți intime ale corpului ce nu au apărut în imaginea originală a unei persoane identificabile.

Înaintea implementării legii, în iulie, xAI l-a dat în judecată pe Ellison pentru a bloca legea, argumentând că aceasta încalcă Primul Amendament și s-ar putea aplica imaginilor protejate, inclusiv bărbaților fără cămașă, înotătorilor și satirei politice. Încălcările atrag amenzi de până la 500.000 de dolari per imagine.

„Nu există un port sigur pentru eforturile de bună-credință ale furnizorului de instrumente creative AI de uz general de a evita prejudiciile”, a scris xAI în plângerea sa. „Răspunderea se aplică chiar dacă persoanele înfățișate au consimțit – sau au creat ele însele imaginea – și chiar dacă imaginea nu este niciodată distribuită.”

Minnesota a adoptat măsura cu 132-1 în Camera Reprezentanților și 65-0 în Senat, după ce legislatori au auzit rapoarte despre un bărbat care a folosit fotografii de pe rețelele sociale pentru a crea imagini sexuale cu peste 80 de femei pe care le cunoștea.

„Astăzi, am condus națiunea în protejarea femeilor, copiilor și a tuturor celor din viața publică de răul cauzat de tehnologia AI de nudificare”, a declarat Senatorul Maye Quade, care a condus inițiativa, într-o declarație la momentul respectiv. „Companiilor care pun la dispoziție această tehnologie gratuit online și în magazinele de aplicații nu li se va mai permite să faciliteze prădătorii care abuzează și victimizează adulți și copii cu un simplu click.”

Cazul se axează acum pe întrebarea dacă legea reglementează discursul sau tehnologia.

Grok s-a confruntat, de asemenea, cu o examinare atentă din cauza deepfake-urilor explicit sexuale.

În ianuarie, un organism de supraveghere a estimat că Grok a generat peste 23.000 de imagini sexualizate cu copii pe parcursul a 11 zile, declanșând investigații în mai multe țări.

În martie, trei minori din California s-au alăturat altora în a da în judecată xAI, susținând că Grok a fost folosit pentru a transforma fotografiile lor în materiale generate de AI de abuz sexual asupra copiilor. xAI a declarat că a suspendat peste 50.000 de conturi și a depus peste 70.000 de rapoarte la Centrul Național pentru Copii Dispăruți și Exploatați în 2026.