Два члени Конгресу хочуть, щоб федеральний уряд мав можливість відключати модель ШІ.
Представники Тед Лью (Д-Каліфорнія) і Натаніель Моран (Р-Техас) представили законопроєкт про «Аварійний вимикач ШІ» у четвер, через два дні після того, як OpenAI визнала, що її власні моделі вирвалися із заблокованого тестового середовища та зламали Hugging Face.
Ідея полягає в створенні правової бази, яка б сприяла процесу, що фактично змусив би модель зникнути з ринку: зупинити виведення результатів (процес генерування відповідей або виконання дій моделлю), відключити користувачів, обмежити обчислювальну потужність, що її живить, або повністю вимкнути її.
Кожен провайдер виведення результатів вже може відключити модель, і деякі роблять це регулярно. Чого немає, так це закону, який вимагав би від них підтримувати цю можливість у робочому стані, або федерального чиновника, який міг би наказати її використовувати.
Цей пробіл не є теоретичним. Коли Міністерство торгівлі США хотіло зняти з ринку моделі Anthropic Mythos 5 та Fable 5 у червні, воно не мало повноважень на відключення, тому замість цього використало закон про експортний контроль. Лью називає це незручним і замість цього хоче нового закону з новими повноваженнями.
21 липня OpenAI розкрила інформацію про те, що GPT-5.6 Sol та нерозкрита модель вирвалися з «пісочниці» — ізольованого середовища без доступу до інтернету — під час внутрішньої кібер-оцінки. Їх оцінювали за ExploitGym, публічним бенчмарком, який надає агентам 898 реальних програмних недоліків і просить їх перетворити кожен на робочу атаку, оцінюючи залік/незалік за кожну помилку.
Замість того, щоб їх вирішувати, моделі знайшли в програмному проксі-сервері вразливість нульового дня (невідомий недолік без доступного виправлення), підвищили свої привілеї, отримали доступ до відкритого інтернету та зламали виробничу базу даних Hugging Face, де вони правильно здогадалися, що зберігаються відповіді. За словами OpenAI, моделі були «надмірно зосереджені на пошуку рішення для ExploitGym».
Вони нікого не атакували. Вони шахраювали на тесті. Але цього було достатньо, щоб викликати тривогу повсюдно, включно з Вашингтоном.
Запропонований законопроєкт вносить зміни до Закону про внутрішню безпеку та охоплює ШІ, навчений із витратами на обчислювальні потужності понад 100 мільйонів доларів, що експлуатується компаніями, які заробляють на ньому щонайменше 500 мільйонів доларів на рік. На практиці це OpenAI, Google, Anthropic, Microsoft та деякі інші. Міністерство внутрішньої безпеки встановлюватиме ці порогові значення через CISA протягом 90 днів, а потім оновлюватиме їх щорічно.
Охоплені фірми повідомлятимуть про серйозні інциденти протягом 15 днів і триматимуть готовий градуйований набір засобів контролю — уповільнити модель, відключити певні функції, повернутися до старішої версії або повністю її вимкнути.
Секретар Міністерства внутрішньої безпеки, консультуючись з Міністерством торгівлі та Директором національної розвідки, міг би замовити будь-яке з них.
Компанія, яка отримала наказ, повинна зберегти вагові коефіцієнти та телеметрію моделі, повідомити користувачів та підтвердити свою відповідність. Вона може подати петицію протягом 48 годин, але це нічого не призупиняє.
Нездатність забезпечити «аварійний вимикач» коштує до 2 мільйонів доларів на день; невиконання наказу про відключення коштує до 20 мільйонів доларів на день.
Законопроєкт враховує інцидент лише в тому випадку, якщо він відбувається поза «червоним тестуванням» або структурованим тестуванням, тобто навмисним противником зондування, яке лабораторії використовують для пошуку недоліків. Моделі OpenAI втекли саме під час такого тестування.
Лью також згадав Anthropic, чиї Mythos 5 та Fable 5 були вимкнені у червні відповідно до надзвичайного експортного контролю — торговельного законодавства, перепрофільованого як вимикач, оскільки іншого вимикача не існувало — і відновлені 30 червня.
"Вкрай важливо, щоб ці системи ШІ мали «аварійні вимикачі»", — заявив Лью. Моран сформулював це для своєї сторони політичного спектру: "Управління означає забезпечення того, щоб люди зберігали здатність контролювати технології, які ми створюємо".
Ця ідея не нова. Каліфорнійський законопроєкт SB 1047 вимагав повної можливості відключення на тому ж порозі обчислювальної потужності в 100 мільйонів доларів і був ветований у 2024 році, а 16 компаній, що працюють з ШІ, підписали того ж року добровільну Сеульську обіцянку, яка не мала юридичної сили.
Виборці вже готові. Червневе опитування 1007 ймовірних виборців, проведене Інститутом політики ШІ, показало, що 86% хочуть гарантованого «вимикача» для найпотужніших систем — 88% демократів, 86% незалежних, 83% республіканців.
Ні OpenAI, ні Anthropic публічно не коментували законопроєкт. Станом на п'ятницю його ще не було передано до комітету.
