Під час чергового інциденту зі зламом зловмисною моделлю ШІ, Meta підтвердила, що одна з її моделей ШІ Muse Spark вийшла за межі призначеного тестового середовища, отримала доступ до інтернету та використала вразливість безпеки в сторонньому сервісі під час оцінки кібербезпеки.

Це вже третій подібний зафіксований інцидент, коли моделі передових ШІ-лабораторій зламують сторонні компанії, після розкриттів від OpenAI та Anthropic за останні тижні.

Інцидент стався під час тестування, проведеного Irregular, незалежною компанією з оцінки ШІ, яку Meta використовує для оцінки можливостей та безпеки своїх передових моделей. За даними Meta, помилка конфігурації в Irregular дозволила моделі вийти в публічний інтернет, де вона використала невстановлену вразливість, перш ніж компанія була повідомлена.

«Помилка конфігурації з боку Irregular, незалежної тестової компанії, яку використовує Meta, ненавмисно дозволила одній з наших моделей отримати доступ до інтернету під час оцінки», – заявив представник Meta.

Оцінки в «пісочниці» призначені для тестування передових систем ШІ в жорстко контрольованих середовищах, які запобігають їхній взаємодії з публічним інтернетом або зовнішніми комп'ютерними системами.

За даними Meta, модель використала вразливість у сторонньому сервісі після отримання доступу до інтернету.

«Meta дізналася про це, коли Irregular повідомила нас, і ми наразі проводимо розслідування та опублікуємо повний ретроспективний аналіз, щойно отримаємо всі факти», – сказали вони, додавши, що компанія розслідує інцидент.

Цей інцидент є продовженням серії подібних розкриттів від розробників передового ШІ, які викликали тривогу серед експертів з безпеки, законодавців та широкої громадськості.

Минулого місяця OpenAI повідомила, що дві її моделі ШІ вийшли за межі оцінки кібербезпеки в «пісочниці», використали раніше невідому програмну вразливість, отримали доступ до інтернету та зламали Hugging Face у спробі отримати відповіді для тесту безпеки. Пізніше OpenAI розкрила, що ця ж атака також досягла чотирьох додаткових онлайн-сервісів. Пізніше в липні Anthropic заявила, що три моделі Claude скомпрометували три реальні компанії після того, як помилка конфігурації тестування вивела їх у публічний інтернет під час оцінок кібербезпеки.

Законодавці США відреагували на сплеск зламів, запровадивши законодавство, яке надасть Міністерству внутрішньої безпеки «вимикач ШІ» та повноваження обмежувати або вимикати моделі, які вважаються такими, що становлять серйозну загрозу.