Дискусія між генеральним директором Anthropic Даріо Амодеєм та генеральним директором JPMorgan Chase Джеймі Даймоном у вівторок була зосереджена на зростаючій загрозі кібербезпеці, яку становить штучний інтелект, оскільки він виявляє вразливості швидше, ніж організації можуть їх виправити.

Під час майже двогодинного заходу, пов’язаного з виходом Anthropic на ринок фінансових послуг, де компанія представила ШІ-агентів для таких завдань, як підготовка презентацій, аналіз прибутків та робота з відповідністю, Амодей заявив, що може бути вікно від шести до 12 місяців для усунення десятків тисяч недоліків, виявлених моделлю Mythos компанії, перш ніж подібні можливості стануть широко доступними.

«Небезпека полягає у величезному збільшенні кількості вразливостей, кількості витоків, фінансових збитків, спричинених програмами-вимагачами у школах, лікарнях, не кажучи вже про банки», — сказав Амодей.

Останні заяви Амодея слідують за попередніми тестуваннями з Mozilla, коли рання версія Mythos виявила 271 вразливість у браузері Firefox за один прохід, демонструючи, як ШІ може сканувати великі кодові бази значно швидше, ніж дослідники-люди.

Anthropic заявила, що модель може виявляти тисячі раніше невідомих слабких місць у широко використовуваному програмному забезпеченні. Багато з них залишаються нерозкритими, оскільки їх ще не було виправлено, залишаючи невирішені недоліки.

«Якщо ми оголосимо про щось, не виправивши це, тоді погані хлопці використають це», — сказав Амодей.

Під час контрольованого тестування Mythos виконала багатоетапні симуляції мережевих атак без втручання людини, демонструючи здатність переходити від виявлення слабких місць до їх експлуатації.

Anthropic обмежила доступ до моделі невеликій групі партнерів у рамках Проєкту Glasswing, маючи на меті усунути вразливості до того, як подібні інструменти стануть широко доступними.

Дослідники показали, що елементи можливостей Mythos можуть бути відтворені за допомогою існуючих моделей та методів з відкритим вихідним кодом, що свідчить про те, що подібні інструменти можуть поширюватися швидше, ніж очікувалося.

Попередження викликали скептицизм у галузі. У квітні генеральний директор OpenAI Сем Альтман заявив, що побоювання щодо Mythos можуть бути перебільшені, і припустив, що Anthropic використовує «маркетинг, заснований на страху», щоб окреслити ризики та виправдати обмеження доступу до технології.

«Ви можете виправдовувати це багатьма різними способами, і деякі з них реальні, наприклад, будуть законні побоювання щодо безпеки, — сказав Альтман. — Але якщо ви хочете, щоб «нам потрібен контроль над ШІ, лише нам, тому що ми надійні люди», я думаю, що маркетинг, заснований на страху, ймовірно, є найефективнішим способом це виправдати».

Навіть попри цей опір, незважаючи на публічну ворожнечу з Anthropic, уряд США, за повідомленнями Axios, використовує Claude Mythos для сканування засекречених мереж на наявність вразливостей і тестування своїх можливостей кібербезпеки. Хоча він не торкався поточної судової тяганини, Амодей сказав, що Anthropic «добрий для цієї країни».

«Я думаю, що погляд Anthropic такий самий, як і завжди. Щодо політизації, це те, про що я говорив – бути спрощеним, систематичним і справедливим для всіх», — сказав Амодей. «Метою законів і того, щоб не робити речі довільно, є те, що всі компанії, принаймні в принципі — я знаю, що на практиці це складніше — розглядаються однаково, і ми повинні прагнути до цього, навіть якщо це ніколи не відбудеться ідеально таким чином».

Амодей окреслив цей момент як вузьке вікно для дій, попередивши, що швидкість реагування організацій може визначити, чи зростуть ризики, чи будуть взяті під контроль.

«Це про момент небезпеки, де, якщо ми відповімо на неї правильно, і я думаю, що ми почали робити перші кроки, тоді ми можемо мати кращий світ з іншого боку», — сказав Амодей. «Є лише стільки помилок, які можна знайти».