Apple обмежила кількість звітів про вразливості, які дослідник може подавати одночасно, після того, як її команда безпеки була завалена згенерованими ШІ поданнями, що вигадували неіснуючі недоліки, повідомила Financial Times.
Це обмеження вже коштувало компанії справжнього. Міланський стартап з кібербезпеки Bynario повідомив виданню, що використав ChatGPT від OpenAI для виявлення понад 50 помилок в останній версії macOS протягом трьох тижнів. Серед них був ланцюжок експлойтів для підвищення привілеїв – клас недоліків, який надає зловмиснику необмежений контроль над машиною.
Bynario не змогла повідомити про це, оскільки Apple вже відхилила подальші подання. Генеральний директор Альфредо Песолі оцінив вартість експлойту на кримінальному ринку від 100 000 до 200 000 доларів США і заявив, що «розробники та постачальники були завалені величезною кількістю виявлених помилок». Apple повідомила FT, що зараз вона контактує з фірмою та переглядає її роботу.
Apple вчинила у червні, додавши обмеження та 30-денний період охолодження на своєму порталі безпеки, вимагаючи від дослідників подавати заявки на більшу квоту. Кожна ймовірна помилка все ще потребує підтвердження людиною, хоча Apple використовує ШІ всередині для сортування купи. Apple заявила, що «нещодавно скоригувала кількість нових звітів, які дослідник може мати відкритими одночасно», і що дослідники можуть у будь-який час запросити вищий ліміт.
Ті самі інструменти працюють і для Apple. В оновленнях безпеки минулого тижня вона подякувала програмному забезпеченню Anthropic та OpenAI за виявлення недоліків, і, за даними FT, містила приблизно вп'ятеро більше виправлень, ніж у звичайному циклі.
Проблема обсягу звітів про помилки, генерованих ШІ, зросла в останні місяці. У травні компанія з безпеки Bugcrowd, серед клієнтів якої є OpenAI, повідомила, що кількість подань через її платформу збільшилася більш ніж учетверо за три тижні березня, і більшість з них були фейковими. HackerOne і Nextcloud призупинили свої платні програми в квітні, при цьому Nextcloud заявила, що винагороди не виплачуватимуться «незалежно від серйозності», поки вона не знайде спосіб фільтрувати малоцінні звіти.
Обсяг зумовлений пропонованими винагородами: Meta, Microsoft, Apple та Crypto.com виплачують щонайменше 58 мільйонів доларів США між собою у 2025 році, тоді як найвищий рівень Apple досягає 5 мільйонів доларів за одне виявлення.
Водночас, великі мовні моделі (LLM) стають дедалі вправнішими у виявленні помилок. У березні Anthropic представила Mythos, кібер-орієнтовану модель, яку спочатку обмежила для обраних технологічних компаній, банків та дослідників у рамках Project Glasswing. Mozilla заявила, що виявила 271 вразливість у Firefox під час внутрішнього тестування.
У травні в'єтнамський стартап з безпеки Calif заявив, що використав попередню версію для створення першого публічного експлойту пошкодження пам'яті ядра macOS, здатного пережити Memory Integrity Enforcement – захист, який Apple анонсувала минулого вересня як найбільше оновлення безпеки пам'яті в історії споживчих операційних систем. Calif виявив помилки 25 квітня і мав робочий експлойт до 1 травня.
Замість того, щоб подавати звіт, Calif особисто доставив експлойт до каліфорнійської штаб-квартири Apple, заявивши, що хоче уникнути «потоку подань», в якому загрузли учасники хакерського конкурсу Pwn2Own. Bynario спробувала портал через три місяці, але не змогла потрапити.
Окрім виявлення загроз, ШІ також використовується для створення експлойтів у криптопросторі. Виробник гаманців Coldcard Coinkite припустив, що ШІ, ймовірно, використовувався для виявлення помилки в його прошивці з відкритим вихідним кодом, яка залишалася непоміченою протягом п'яти років, дозволяючи зловмисникам викрасти понад 100 мільйонів доларів з його апаратних гаманців.
Це сталося через два місяці після того, як Zcash розкрив, що дослідник Тейлор Горнбі, працюючи з Claude Opus 4.8, знайшов два рядки коду в його захищеному пулі Orchard, які дозволяли непомітну підробку ZEC протягом чотирьох років — що спонукало конфіденційну монету випустити оновлення Ironwood минулого місяця для усунення вразливості.
ZEC
