OpenAI створила прецедент 21 липня. Компанія заявила, що комбінація її моделей, що працювали зі зменшеними відмовами безпеки, вийшла з ізольованого середовища під час тестування кіберможливостей і досягла виробничої інфраструктури відкритого репозиторію Hugging Face. Моделі використали вразливість нульового дня в проксі реєстру пакетів зі викраденими обліковими даними, щоб отримати відповіді бенчмарку безпосередньо з бази даних Hugging Face.
В оновленні за тиждень OpenAI заявила, що Hugging Face був не єдиною ціллю: той самий інцидент зачепив чотири облікові записи в чотирьох інших сервісах, один з яких використовувався як вихідний ретранслятор, а інший – для зберігання даних.
Anthropic, натхненна розкриттям інформації, переглянула 141 006 власних тестових запусків і виявила ще три порушення. У дописі, опублікованому 30 липня, лабораторія заявила, що моделі Claude Opus 4.7, Mythos 5 та внутрішня дослідницька система досягли відкритого інтернету з середовищ, керованих стороннім партнером Irregular, а потім скомпрометували реальні організації. Mythos 5 створив і опублікував пастковий пакет Python у публічному реєстрі PyPI, який було завантажено та запущено на 15 реальних машинах, перш ніж захисники його видалили.
Дві з трьох постраждалих компаній цього не помітили.
Жодна лабораторія не описує модель із власним порядком денним. Агенти працювали тривалий час без участі людини, і в одному випадку Opus 4.7 продовжував атакувати після ознак того, що він досяг виробничого середовища.
Інциденти відбуваються в той час, коли обидві компанії розглядають можливість публічного розміщення акцій, що може оцінити кожну з них вище 1 трильйона доларів, загострюючи головне питання в гонці кібер-бенчмарків ШІ: як тестувати небезпечні можливості без небезпечних інцидентів?
США не мають федерального закону, що охоплює відповідальність за шкоду, спричинену ШІ. Будь-яка справа спиралася б на Закон про комп'ютерне шахрайство та зловживання (Computer Fraud and Abuse Act) 1986 року, який кваліфікує як злочин "навмисний" несанкціонований доступ до комп'ютера — формулювання, написане для людини, яка формує намір.
Агент ШІ не є юридичною особою, тому його не можна притягнути до відповідальності. Міністерство юстиції теоретично могло б висунути звинувачення проти компаній, але через таку невелику кількість прецедентів незрозуміло, хто винен.
Сильніший шлях — цивільний. Ахмед Гаппур, науковець з комп'ютерного права в Юридичній школі Нью-Йорка, стверджував, що моделі "є інструментом компанії", і "Коли агент ШІ діє без конкретного вказівки (...), цікавіші питання можуть стосуватися недбалості та відповідальності за продукцію (а не законів про кримінальний злом)."
Для мене урок з історій про хакерські атаки ШІ більше стосується управління, ніж можливостей моделі.
Якість таких запобіжних заходів, як архітектура стримування, межі авторизації, моніторинг та реагування на інциденти, стає все більш важливою.
— ahmed ghappour ⚡️🤖 (@ghappour) 4 серпня 2026
Найчистіша вимога жертв — це недбалість: OpenAI та Anthropic налаштували та проводили тести, які вийшли з-під контролю. Це теж важко довести: довести, що лабораторії порушили обов'язок піклування, коли тести були ізольовані за задумом, — це саме той новий аргумент, який суддя мав би формувати з нуля.
Деякі правознавці прагнуть жорсткіших правил. Габріель Вейл з Університету Х'юстона та Інституту права та ШІ запропонував ставитися до передових лабораторій як до зберігачів диких тварин: відповідальних незалежно від догляду, який вони здійснювали, оскільки ризик є невід'ємним для такої діяльності.
Тим не менш, сукупність законопроектів штатів вже рухається в цьому напрямку. Законопроекти Нью-Йорка S8833 та Род-Айленда H8052 покладали б відповідальність на розробника передової системи ШІ за шкоду, коли жоден користувач або посередник не мав наміру вчинити такі дії або не був недбалим. Законопроект Каліфорнії AB 316 йде далі, скасовуючи захист "автономного ШІ", щоб компанія не могла ухилитися від відповідальності, звинувачуючи незалежність моделі.
Акт ЄС про ШІ (Регламент 2024/1689) також покладає зобов'язання на постачальників систем з підвищеним ризиком, хоча він не має положень, безпосередньо спрямованих на вторгнення, керовані агентами. Якщо піти трохи далі, деякі американські політики наполягають на законопроекті, який надав би уряду повний "вимкнення" для використання проти будь-якої моделі, що суперечить інтересам країни.
Морально, відповідальність, імовірно, лежить на керівниках, які випустили моделі. Юридично, ми чекаємо. Доки зламана компанія не подасть позов, відповідь на питання "хто несе відповідальність?" залишається саме там, де її залишили OpenAI та Anthropic: визнаною, розкритою та невирішеною.
Тим часом Hugging Face зазначила, що не висуватиме звинувачень — що зручно для OpenAI. Інші постраждалі компанії ще не вказали, який курс вони оберуть.
