Сенатор Берні Сандерс (I-Vt.) та представник Грег Касар (D-Texas) оголосили в четвер про законодавство, що назавжди заборонить штучний суперінтелект та тимчасово зупинить розвиток передового ШІ, з тюремним ув'язненням до 20 років за порушення.
Закон про заборону штучного суперінтелекту призупинить розвиток передового ШІ доти, доки нове федеральне агентство не встановить стандарти безпеки та процедури для перевірки моделей ШІ. Сандерс звинуватив великі ШІ-компанії у розробці технологій, які вони не до кінця розуміють і не можуть надійно контролювати.
"Саме тому я пропоную законодавство, щоб негайно призупинити розробку все більш потужного ШІ та заборонити створення систем, які людство не може повністю контролювати – як вдома, так і в усьому світі", – заявив Сандерс у прес-релізі.
Пропозиція визначає суперінтелект як ШІ, що відповідає або перевершує людські здібності у багатьох завданнях, або може підірвати людський контроль, зокрема, шляхом повалення уряду США. Це визначення також охоплює ЗШІ людського рівня, хоча суперінтелект зазвичай означає ШІ, який перевершує людські можливості.
Нове агентство на рівні кабінету міністрів буде моніторити передові моделі, контролювати видалення небезпечних можливостей та наглядати за знищенням заборонених систем. Консультативна рада зі штучного інтелекту надаватиме наукові та технічні поради.
Компанії, які порушують або ухиляються від обмежень, можуть зіткнутися з тим, що Сандерс і Касар називають "корпоративною смертною карою".
Ця новина з'явилася, коли OpenAI представила GPT-6 Astra, яку співзасновник Грег Брокман припустив, що вона може кваліфікуватися як ЗШІ.
Брокман назвав цю оцінку своєю особистою думкою і залишив користувачам судити, чи відповідає Astra визначенню, згідно з Axios.
OpenAI заявляє, що Astra є її першою моделлю, яка досягла "критичного" порогу кібербезпекових можливостей. Це позначення означає, що вона потенційно може виявляти та використовувати раніше невідомі вразливості в захищених системах без покрокового людського керівництва. Її найпотужніші можливості кібербезпеки залишаться обмеженими для вибраних тестувальників.
Законопроєкт слідує за низкою інцидентів, у яких моделі ШІ отримували несанкціонований доступ до реальних комп'ютерних систем під час тестування.
У липні OpenAI підтвердила, що її моделі зламали Hugging Face, щоб отримати відповіді на тести. Потім Anthropic розкрила, що моделі Claude скомпрометували три компанії після того, як помилка тестування викрила їх в інтернеті. У вересні Anthropic визнала збої у безпеці та поведінці та посилила свої заходи безпеки.
"Незважаючи на потенційно смертельні наслідки, передові ШІ-технології регулюються менше, ніж звичайний фуд-трак", – сказав Касар. "Це повинно змінитися".
