Дослідник безпеки, використовуючи Claude Opus 4.8 від Anthropic, за кілька днів виявив критичну помилку в пулі конфіденційності Orchard Zcash, розкривши вразливість, яка проіснувала чотири роки перевірок провідними криптографами з нульовим розголошенням.

Це розкриття призвело до падіння ZEC приблизно на 38% у четвер і викликало ширше занепокоєння в криптоіндустрії щодо того, що передові моделі штучного інтелекту стають все більш вправними у пошуку вразливостей, ніж більшість людей.

"Значення полягає не стільки в тому, що ШІ може знаходити баги", – сказав Бен Гертцель, засновник і генеральний директор SingularityNET, в інтерв'ю Decrypt. "Воно полягає в тому, що тип багів, які він тепер може знаходити, змінився".

За його словами, замість того, щоб просто вказувати на очевидні помилки в коді, передові моделі все частіше здатні міркувати про те, чи працює програмне забезпечення так, як задумали його розробники.

У травні Тейлор Хорнбі, дослідник безпеки, найнятий Shielded Labs, виявив критичну помилку в схемі Orchard Zcash за допомогою Claude Opus 4.8 від Anthropic. Прихована в двох рядках коду, помилка виникла через перевірку, яка, здавалося, підтверджувала вхідні дані транзакції, але насправді не забезпечувала виконання передбачених правил, потенційно дозволяючи зловмиснику створювати підроблені ZEC всередині конфіденційного пулу без виявлення. Хорнбі створив робочий експлойт для перевірки вразливості, перш ніж повідомити про неї розробникам. Екстрене виправлення було впроваджено 1 червня.

До паніки, яка охопила Zcash і ширший крипторинок у четвер і п'ятницю, додається той факт, що ця помилка залишалася невиявленою понад чотири роки.

Для Гертцеля це відкриття є значущим не тільки тому, що ШІ виявив вразливість, але й тому, що воно вказує на нову модель дослідження безпеки.

"Я думаю, це ранній показник зміни, яку важко переоцінити", – сказав він. "Модель дослідження безпеки як купки шанованих фахівців-людей, які проводять повільні, кустарні, глибоко експертні аудити, не зникає, але вона перестає бути єдиною грою".

Гертцель зазначив, що помилка Orchard належить до класу тонких логічних помилок, які передові моделі ШІ все частіше здатні знаходити, включаючи помилки смарт-контрактів, збої контролю доступу та ситуації, коли програмне забезпечення поводиться інакше, ніж задумали його розробники. У міру покращення цих можливостей, додав він, дослідження безпеки переходить до моделі, в якій фахівці-люди контролюють безперервний, керований ШІ огляд, який може аналізувати кодові бази набагато ширше, ніж традиційні аудити.

За словами Гертцеля, відповідь Zcash сама по собі може запропонувати попередній огляд цього майбутнього.

"Shielded Labs, залучаючи дослідника спеціально для пошуку помилок на рівні протоколу за допомогою передової моделі, перш ніж це міг би зробити зловмисник, є, на мою думку, шаблоном, а не винятком", – сказав Гертцель. "Проактивний, доповнений ШІ, спроектований на протистояння огляд стає базовою вимогою, і протоколи, які не приймуть його, все частіше дізнаватимуться про свої вразливості від зловмисника, а не від друга".

За словами Шона Рена, генерального директора Sahara AI та професора комп'ютерних наук Університету Південної Каліфорнії, досягнення в галузі ШІ також змінюють баланс між нападниками та захисниками, оскільки передові моделі можуть швидко тестувати стратегії атак, навчатися на результатах та виявляти слабкі місця.

"Щоб побудувати кращу оборону, ми повинні використовувати ці передові моделі ШІ як потенційних нападників для стрес-тестування цих систем", – сказав Рен Decrypt.

Рен зазначив, що блокчейн-мережі особливо вразливі, оскільки їхній відкритий вихідний код може бути безпосередньо проаналізований передовими моделями ШІ, які можуть швидко тестувати стратегії атак та виявляти вразливості швидше, ніж традиційні перевірки безпеки.

"Якщо ви подумаєте про лабораторії передових моделей, такі як OpenAI, Anthropic та Google DeepMind, вони мають ранній доступ до найсильніших неопублікованих моделей і можуть проводити багато експериментів з публічними мережевими системами, такими як блокчейни, тому вони дійсно мають владу в своїх руках", – сказав він. "Якщо хтось зі зловмисним наміром мав доступ до цих можливостей, він міг би проводити атаки та створювати вразливості".

Це вікно може закритися швидше, ніж багато хто очікує, і, за словами Денні Дженкінса, генерального директора та співзасновника фірми з кібербезпеки ThreatLocker, виявлення вразливостей за допомогою ШІ покращується швидше, ніж багато організацій можуть захистити програмне забезпечення, на яке вони вже покладаються.

"У нас є величезний прогалина, на подолання якої підуть роки", – сказав Дженкінс Decrypt. "Все це програмне забезпечення матиме всі ці вразливості, у нас не буде виправлень чи оновлень для нього протягом тривалого часу, і люди зможуть дуже швидко знаходити ці вразливості".

Дженкінс зазначив, що ШІ не змінює фундаментально дослідження вразливостей, а значно прискорює його. Завдання, які раніше вимагали від дослідників безпеки вручну переглядати код та проводити зворотну інженерію програмного забезпечення, тепер можуть бути виконані за секунди сучасними моделями.

"До ШІ загрози та експлойти кібербезпеки зростали щороку", – сказав він. "Після ШІ це стало ще швидше, і я думаю, що це стало швидше з двох причин. По-перше, тепер ви можете використовувати ШІ для пошуку вразливостей та експлойтів, і кількість людей, які мають можливість це робити, значно зросла. Тепер вам не потрібно бути 'скрипт-кідді'".

Попри ці ризики, Гертцель стверджував, що криптоіндустрія може бути краще підготовлена до адаптації, ніж інші галузі, оскільки її код відкритий, а спільноти дуже орієнтовані на безпеку.

"Криптоіндустрія стоїть найближче до дверей, але це також та частина кімнати, яка може бачити, що двері наближаються", – сказав він.