Розробник Firefox Mozilla виявив, що рання версія ШІ Claude Mythos від Anthropic виявила 271 вразливість у браузері Firefox під час внутрішнього тестування, усі з яких були виправлені цього тижня.
Виявлені дані свідчать про те, як передові системи ШІ починають сканувати великі кодові бази у такому масштабі, який раніше залежав від багатогодинної ручної роботи дослідників кібербезпеки. Mozilla зазначила, що навіть захищені програмні об'єкти тепер можна досліджувати глибше за коротший час.
«Оскільки ці можливості потрапляють до рук більшої кількості захисників, багато інших команд зараз переживають те саме запаморочення, що й ми, коли висновки вперше стали очевидними, — написала Mozilla. — Для захищеної цілі, лише одна така помилка була б червоним сповіщенням у 2025 році, а так багато одночасно змушує замислитись, чи можливо взагалі встигати.»
Попередні тестування з використанням іншої моделі Anthropic виявили 22 критичні для безпеки помилки в попередньому випуску Firefox. Незважаючи на цей прогрес, Mozilla зазначила, що повне усунення програмних експлойтів давно вважається нереалістичним.
«Досі індустрія в основному боролася за безпеку до нічиєї, — написала компанія. — Постачальники критично важливого програмного забезпечення, що працює в інтернеті, такого як Firefox, надзвичайно серйозно ставляться до безпеки і мають команди людей, які щоранку встають з думкою про те, як забезпечити безпеку користувачів.»
Mozilla заявила, що нова система може переглядати вихідний код та позначати слабкі місця способами, що раніше вимагали високоспеціалізованих людських знань. Внутрішні результати показали, що модель не виявила помилок, які були б недоступними для провідних дослідників.
«Деякі коментатори прогнозують, що майбутні моделі ШІ виявлять абсолютно нові форми вразливостей, які не піддаються нашому поточному розумінню, але ми так не вважаємо, — заявила компанія. — Програмне забезпечення, таке як Firefox, розроблено модульним способом, щоб люди могли обґрунтувати його коректність. Воно складне, але не довільно складне.»
Запущений у березні, Claude Mythos описується Anthropic як їхня найдосконаліша модель для міркувань, кодування та завдань кібербезпеки, розташована вище за їхню попередню серію Opus. Передрелізні тестування припускали, що вона могла б виявити тисячі невідомих вразливостей у різних операційних системах та браузерах.
Доступ до системи залишається обмеженим через ініціативу з обмеженим доступом, відому як Project Glasswing, яка дозволяє окремим фірмам, включаючи Amazon, Apple та Microsoft, сканувати програмне забезпечення на наявність недоліків безпеки.
Дослідники безпеки попереджають, що та сама можливість може бути використана в наступальних цілях. Інструменти ШІ, які можуть аналізувати код у великих масштабах, також можуть автоматизувати виявлення експлуатованих помилок у широко використовуваних програмних системах.
Тестування Інститутом безпеки ШІ Великобританії показало, що модель може самостійно виконувати складні кібероперації, включаючи завершення багатоетапної симуляції атаки на корпоративну мережу без втручання людини. Ці результати привернули увагу урядів та розвідувальних агенцій.
Незважаючи на попередні напруження з адміністрацією Дональда Трампа щодо використання технології Anthropic, Агентство національної безпеки розгорнуло Claude Mythos Preview на секретних мережах, за словами людей, обізнаних у цій справі. Цей крок свідчить про зростання інтересу серед американських агентств до інструментів ШІ, які можуть виявляти критичні вразливості програмного забезпечення.
Anthropic також визнала, що поточні еталони кібербезпеки намагаються встигати за їхніми останніми моделями, піднімаючи питання про те, як вимірювати продуктивність ШІ в цій галузі.
Mozilla заявила, що результати свідчать про можливий поворотний момент, коли захисники можуть почати скорочувати давній розрив з атакуючими.
«Ми надзвичайно пишаємося тим, як наша команда впоралася з цим викликом, і інші також зможуть, — написала компанія.
Наша робота не завершена, але ми подолали переломний момент і можемо побачити майбутнє значно краще, ніж просто встигати. Захисники нарешті мають шанс перемогти, рішуче.»
