Міннесота бореться з xAI Ілона Маска через спробу компанії заблокувати HF-1606 — перший у своєму роді закон штату, спрямований на інструменти ШІ, що генерують реалістичні сексуальні зображення ідентифікованих осіб.
У судовому поданні в п’ятницю генеральний прокурор Міннесоти Кіт Еллісон стверджував, що xAI навряд чи досягне успіху у своєму конституційному оскарженні та не зміг довести, що застосування закону завдасть непоправної шкоди.
«З Grok Imagine X.AI створив безпрецедентний ринок цифрового сексуального насильства, який практично не має бар’єрів для входу», — написав Еллісон. «Цей ринок, у поєднанні з функціональними можливостями Grok Imagine, прирік би Міннесоту з самого початку, якби вона не могла спрямувати свої закони на технологію, яка в першу чергу уможливлює цифрову сексуальну віктимізацію».
Закон, ухвалений у квітні та який набрав чинності 1 серпня, забороняє платформам та розробникам програмного забезпечення дозволяти користувачам створювати реалістичні зображення, що показують інтимні частини тіла, які не з’являлися на оригінальному зображенні ідентифікованої особи.
Напередодні імплементації закону, у липні, xAI подала до суду на Еллісона, щоб заблокувати закон, стверджуючи, що він порушує Першу поправку та може застосовуватися до захищених зображень, включаючи чоловіків без сорочки, плавців та політичної сатири. Порушення тягнуть за собою штрафи до 500 000 доларів за зображення.
«Немає надійного притулку для добросовісних зусиль постачальника універсальних творчих інструментів ШІ, щоб уникнути шкоди», — написала xAI у своїй скарзі. «Відповідальність настає, навіть якщо зображені особи дали згоду — або створили зображення самі — і навіть якщо зображення ніколи не поширюється».
Міннесота ухвалила цей захід 132-1 у Палаті представників та 65-0 у Сенаті після того, як законодавці почули повідомлення про чоловіка, який використовував фотографії з соціальних мереж для створення сексуальних зображень понад 80 знайомих йому жінок.
«Сьогодні ми очолили націю, захищаючи жінок, дітей та всіх у суспільному житті від шкоди, спричиненої технологією ШІ-нудифікації», — заявила тоді сенаторка Мей Кваде, яка очолювала цей рух. «Компаніям, які роблять цю технологію доступною безкоштовно онлайн та в магазинах додатків, більше не буде дозволено надавати можливості хижакам, які зловживають та віктимізують дорослих та дітей одним натисканням кнопки».
Зараз справа зосереджена на тому, чи регулює закон висловлювання чи технологію.
Grok також стикався з пильною увагою через відверті сексуальні дипфейки.
У січні спостерігачі підрахували, що Grok згенерував понад 23 000 сексуалізованих зображень дітей протягом 11 днів, що спричинило розслідування в кількох країнах.
У березні троє неповнолітніх у Каліфорнії приєдналися до інших у позові проти xAI, стверджуючи, що Grok був використаний для перетворення їхніх фотографій на створені ШІ матеріали дитячого сексуального насильства. xAI заявила, що призупинила понад 50 000 акаунтів і подала понад 70 000 звітів до Національного центру зниклих та експлуатованих дітей у 2026 році.
