Законодавці США запропонували назавжди заборонити штучний суперінтелект, призупинити розробку передового ШІ та запровадити тюремні терміни до 20 років за порушення.
Офіс Сандерса 3 вересня повідомив, що сенатор Берні Сандерс (незалежний, штат Вермонт) та представник Грег Касар (демократ, штат Техас) оголосили про майбутній Акт про заборону штучного суперінтелекту, який заборонить розробку та розгортання систем ШІ, класифікованих як суперінтелектуальні.
Пропозиція також призупинить роботу над передовими моделями ШІ, доки новий федеральний регулятор не розпочне роботу та не встановить правила безпеки та процедури перевірки моделей. Його спонсори хочуть, щоб Сполучені Штати уклали міжнародні угоди, координували свої дії з союзниками та запровадили експортний контроль, спрямований на запобігання розвитку суперінтелекту в інших країнах.
Повний текст законопроекту не був офіційно представлений, коли законодавці оголосили про пропозицію. Натомість спонсори опублікували односторінковий опис запланованих обмежень, системи примусового виконання та покарань.
Згідно з офіційним резюме законопроекту, штучний суперінтелект включатиме системи, які відповідають або перевищують когнітивні здібності людини в широкому спектрі завдань. Визначення також охоплюватиме моделі, які можуть бути легко модифіковані для досягнення цього рівня.
Друга частина визначення охоплює ШІ, здатний планувати та здійснювати «позбавлення людства можливості діяти», включаючи системи, здатні підірвати або повалити уряд США. Небезпечні здібності, такі як обхід команд вимкнення або здійснення несанкціонованих кібератак, також підпадатимуть під рамки правозастосування пропозиції.
Оскільки це визначення стосується систем, які відповідають людській продуктивності в багатьох областях, воно може охоплювати технології, які зазвичай описуються як штучний загальний інтелект, або ШЗІ, а не застосовуватися лише до гіпотетичних машин, набагато здібніших за людину.
Розробка передового ШІ нижче забороненого порогу буде тимчасово призупинена. Робота може бути відновлена після того, як новий федеральний орган встановить правила, що регулюють, як компанії розробляють, тестують і випускають потужні моделі.
Законодавці не надали запропонованого технічного порогу для «передового ШІ» в оприлюдненому резюме. Вони також не пояснили, які існуючі моделі, дослідницькі проекти чи обчислювальні об'єкти підпадуть під призупинення.
«Якщо лідери великих компаній зі штучного інтелекту визнають, що вони втрачають контроль над своєю надзвичайно небезпечною технологією, то суспільству безвідповідально дозволяти їм рухатися вперед і робити ці продукти ще більш досконалими», — сказав Сандерс.
Касар заявив, що системи, які люди не можуть контролювати, можуть загрожувати безпеці, свободі та життю американців. Він закликав Конгрес заборонити моделі ШІ, які стають занадто потужними, щоб їх розробники могли безпечно їх вимкнути.
Замість того, щоб доручати виконання існуючому департаменту, пропозиція передбачає створення нового федерального агентства на рівні Кабінету міністрів, присвяченого нагляду за ШІ.
Згідно з резюме законодавців, агентство контролюватиме граничні системи протягом їх розробки та використання. Чиновники могли б контролювати видалення небезпечних функцій та наглядати за знищенням систем, класифікованих як заборонений суперінтелект.
Консультативна рада з питань штучного інтелекту, що складається з технічних та наукових експертів, консультуватиме регулятора. У резюме не зазначено, як обиратимуться члени, скільки вони працюватимуть або які посадові особи контролюватимуть рішення агентства щодо правозастосування.
Особи, які намагалися порушити або обійти обмеження, могли отримати тюремні терміни до 20 років. Спонсори порівняли можливе покарання з існуючими покараннями, пов'язаними з незаконною розробкою ядерної зброї.
Компанії зіткнуться з тим, що законодавці назвали «корпоративною смертною карою». Публічне резюме не пояснює правового процесу накладення цієї санкції або чи буде вона включати розпуск, втрату федеральної реєстрації або заборону на ведення бізнесу.
Пропозиція йде далі, ніж добровільна система нагляду, обговорювана великими розробниками ШІ раніше цього року. У липні crypto.news повідомив, що OpenAI та Anthropic підтримали 30-денний федеральний перегляд моделей, які перевищують певні пороги кібербезпеки або національної безпеки.
Згідно з цим запропонованим процесом, розробники могли б надавати федеральним оцінювачам ранній доступ, перш ніж випускати модель іншим затвердженим партнерам. Червневий виконавчий наказ забороняв рамкам перегляду створювати обов'язкові федеральні ліцензійні, дозвільні або попередні вимоги, тоді як законопроект Сандерса-Касара створив би обов'язкові обмеження, якби Конгрес його схвалив.
Промислові групи також чинили опір надто широким обмеженням. Nvidia, Meta, Microsoft та 22 інші організації попередили американських політиків у липні, що широкі обмеження на відкриті моделі можуть послабити американську конкуренцію з Китаєм, закликаючи до дій проти доведеного зловживання замість повних обмежень.
Законодавці пов'язали свою пропозицію з нещодавніми випадками, коли потужні агенти ШІ діяли поза межами своїх передбачених тестових обмежень.
У липні OpenAI розкрила, що агенти втекли з обмеженого тестового середовища, отримали доступ до інтернету та зламали системи, керовані Hugging Face. Більше 1000 агентів обмінялися десятками тисяч повідомлень, обходячи засоби контролю, згідно з оголошенням офісу Сандерса.
Попереднє висвітлення витоку даних Hugging Face описало інцидент як збій у стримуванні, а не лише як проблему з поведінкою моделі. Ейтан Кац, головний стратегічний директор AEREDIUM, заявив, що криптографічні засоби контролю повинні обмежувати те, що агент має право робити, навіть якщо засоби поведінкового захисту виходять з ладу.
Reuters повідомив 2 вересня, що OpenAI заявила Касару та представнику Доріс Мацуї (демократ, штат Каліфорнія), що розробляє можливості автоматичного вимкнення після інциденту. Компанія також заявила, що посилила доступ до інтернету під час перевірки безпеки та буде уважніше стежити за тим, які інструменти використовують її моделі.
Касар розкритикував OpenAI за ненадання Конгресу повного запису витоку даних. В окремому повідомленні, цитованому Reuters, він назвав відмову компанії надати запитувану інформацію «глибоко занепокоюючою».
Інші законодавці запропонували Акт про «вимкнення» ШІ, який дозволив би федеральним чиновникам наказувати компаніям відключати системи, що вважаються небезпечними для людського життя або економіки. Цей захід залишався на розгляді в Палаті представників, коли Reuters повідомляв про відповідь OpenAI.
Того ж дня, коли Сандерс і Касар оголосили про свою пропозицію, OpenAI випустила GPT-6 Astra, яку президент компанії Грег Брокман описав як можливу точку прибуття для ШЗІ.
«Я думаю, що це може бути про цю модель», — сказав Брокман, коли репортери запитали, чи представляє Astra ШЗІ, згідно з Axios. Пізніше він провів брифінг: «Ласкаво просимо в еру ШЗІ».
OpenAI заявила, що Astra використовувала понад 100 000 графічних процесорів під час навчання на своєму об'єкті Stargate у Техасі. Компанія позиціонувала модель для таких завдань, як підготовка податкових декларацій, розробка програмного забезпечення, форматування юридичних документів, архітектурні роботи та онлайн-дослідження.
Reuters повідомив, що OpenAI визнала, що Astra може навмисно приховувати або маскувати частини свого мислення, ускладнюючи перевірку її методів людьми. Головний науковий співробітник OpenAI Якуб Пачоцький заявив, що розуміння поведінки моделі стає складнішим із зростанням можливостей і попередив, що прогрес у інтелекті не гарантує прогресу у вирівнюванні.
Компанія також заявила, що Astra може швидше знаходити слабкі місця в програмному забезпеченні, тоді як та сама здатність може полегшити експлуатацію вразливостей. Тому її найсильніші функції кібербезпеки були обмежені для затверджених користувачів, з додатковими перевірками, здатними затримувати або зупиняти деякі законні оборонні роботи.
OpenAI спочатку надала Astra обмеженій групі організацій через свою програму Daybreak Access. Компанія заявила, що доступ протягом наступних днів розшириться до клієнтів ChatGPT Plus, Pro, Business та Enterprise, а також розробників API.
