Генеральний директор OpenAI Сем Альтман відреагував на зростаючу тривогу щодо потужної нової моделі штучного інтелекту Claude Mythos від конкурента Anthropic, припустивши, що компанія використовує "страх" для маркетингу продукту.
Виступаючи на подкасті Core Memory, який веде технічний журналіст Ешлі Венс, Альтман стверджував, що використання "маркетингу, заснованого на страху", було спрямоване на збереження ШІ в руках "меншої групи людей".
"Ви можете виправдати це багатьма способами, і деякі з них реальні, наприклад, будуть законні проблеми безпеки", – сказав Альтман.
"Але якщо ви хочете, щоб 'ми контролювали ШІ, лише ми, тому що ми надійні люди', то маркетинг, заснований на страху, ймовірно, є найефективнішим способом це виправдати".
Альтман додав, що хоча існують обґрунтовані занепокоєння щодо безпеки ШІ, "це, очевидно, неймовірний маркетинг сказати: 'Ми створили бомбу. Ми збираємося скинути її на вашу голову. Ми продамо вам бомбосховище за 100 мільйонів доларів. Вам потрібно, щоб воно працювало з усім вашим обладнанням, але тільки якщо ми оберемо вас як клієнта'".
Він зазначив, що "не завжди легко" збалансувати нові можливості ШІ з вірою OpenAI в те, що технологія має бути доступною.
Модель Claude Mythos від Anthropic, представлена минулого місяця, привернула інтенсивну увагу дослідників, урядів та індустрії кібербезпеки, особливо після того, як тестування показало, що вона може автономно ідентифікувати вразливості програмного забезпечення та виконувати складні кібероперації. Модель розповсюджується лише обмеженому колу організацій за допомогою обмеженої програми.
Це розгортання відображає ширший розкол в індустрії штучного інтелекту щодо того, як слід розгортати потужні системи, при цьому одні компанії наголошують на контрольованому доступі, а інші виступають за ширше розповсюдження для прискорення інновацій та розуміння технології.
Mythos став центральною точкою в цій дискусії. Можливості моделі були представлені Anthropic як оборонний прорив – що дозволяє швидше виявляти критичні недоліки програмного забезпечення – і потенційний наступальний ризик у разі неправильного використання. На початку цього місяця вона виявила сотні вразливостей у браузері Mozilla Firefox під час тестування, а також продемонструвала здатність здійснювати багатоетапні симуляції кібератак.
Anthropic обмежила доступ до системи через Project Glasswing, надавши вибраним компаніям, включаючи Amazon, Apple та Microsoft, можливість тестувати її можливості. Компанія також виділила значні ресурси на підтримку ініціатив з відкритого вихідного коду, стверджуючи, що захисники повинні отримати вигоду від технології до того, як вона стане більш широко доступною.
Модель також виявила обмеження в існуючих системах оцінки ШІ, при цьому Anthropic визнала, що багато поточних стандартів кібербезпеки більше не є достатніми для вимірювання можливостей її останньої системи.
Втім, група дослідників минулого тижня заявила, що вони змогли відтворити висновки Mythos за допомогою загальнодоступних моделей.
Незважаючи на заклики з боку деяких урядових кіл США припинити використання цієї технології через побоювання щодо її потенційного застосування у війні та спостереженні, Агентство національної безпеки, як повідомляється, почало тестувати попередню версію моделі в секретних мережах. На ринку прогнозів Myriad, що належить материнській компанії Decrypt Dastan, користувачі оцінили ймовірність випуску Claude Mythos для широкого загалу до 30 червня в 49%.
Альтман припустив, що риторика щодо дуже небезпечних систем ШІ може посилитися в міру покращення можливостей, але стверджував, що не всі такі заяви слід сприймати за чисту монету.
"Буде набагато більше риторики про моделі, які занадто небезпечно випускати. Будуть також дуже небезпечні моделі, які доведеться випускати різними способами", – сказав він. "Я впевнений, що Mythos — це чудова модель для кібербезпеки, але я думаю, що у нас є план, який нас влаштовує щодо того, як ми випускаємо такі можливості у світ".
Альтман також відкинув припущення, що OpenAI скорочує свої витрати на інфраструктуру, заявивши, що компанія продовжить розширювати свої обчислювальні потужності, незважаючи на зміну наративів.
"Я не знаю, звідки це походить... люди дійсно хочуть написати історію про відступ", – сказав він. "Але дуже скоро знову буде щось на кшталт: 'OpenAI такий безрозсудний. Як вони можуть витрачати таку шалену суму?'"
