Співзасновник Solana Анатолій Яковенко поставив під сумнів фінансові мотиви пропозиції щодо уповільнення розвитку ШІ, яку 13 вересня підтримали Даріо Амодей, Сем Альтман та Ілон Маск.
Допис Яковенка в X звів його відповідь до чотирьох слів: «Прибутковість при ринковій капіталізації в $1 трильйон». Він не уточнив, до якої компанії стосується ця цифра, і не надав розрахунків доходу, оцінки чи прибутковості на підтримку свого коментаря.
Цей коментар був відповіддю на дебати, розпочаті генеральним директором Anthropic Даріо Амодеєм, який опублікував есе із закликом до повільнішого прогресу в розробці передового штучного інтелекту. Генеральний директор OpenAI Сем Альтман підтримав частину пропозиції, тоді як Маск написав, що «Даріо має рацію», за даними Reuters.
Коментар Яковенка представив прибутковість як можливий мотив для уповільнення розробки моделей, але співзасновник Solana висловив цю ідею як саркастичне спостереження. Його допис не містив доказів того, що Anthropic, OpenAI або xAI координували свої заяви з фінансових причин.
Жодна з названих компаній не підтвердила, що її підтримка повільнішого розвитку залежить від досягнення оцінки в 1 трильйон доларів. Натомість пропозиція Амодея посилається на збої в контролі над моделями, кіберризики та швидкість, з якою системи ШІ допомагають створювати новіші системи.
Reuters повідомило, що Anthropic та OpenAI готуються до потенційних первинних публічних розміщень акцій. У звіті описувалися фінансові стимули, що оточують розробку моделей, але не стверджувалося, що якась із компаній досягла ринкової капіталізації в 1 трильйон доларів або зробила прибутковість залежною від такої оцінки.
Оскільки компанії залишаються приватними, посилання на ринкову капіталізацію можуть описувати лише оцінки за приватними угодами або пропонованими лістингами. Яковенко не пояснив, чи стосується його цифра Anthropic, OpenAI, xAI або сектору передового ШІ в цілому.
Таким чином, його заява представляє особистий коментар, а не розкритий фінансовий прогноз від Solana Labs, Anthropic, OpenAI або xAI. Жодна заява Solana Foundation не пов'язувала блокчейн-мережу або її токен SOL із суперечкою щодо політики ШІ.
У своєму есе «Ми повинні регулювати темпи передового розвитку» Амодей заявив, що розробникам слід уповільнити темпи вдосконалення можливостей моделей. Він відрізняв регулювання темпів від припинення навчання моделей чи закінчення технічних досліджень.
«Ми повинні уповільнити темпи, з якими ми покращуємо можливості моделей ШІ», – написав Амодей. Він сказав, що прогрес може залишатися швидким, поки розробники приділяють більше часу тестуванню захисних механізмів, вивченню поведінки моделей та дозволяють зовнішнім оцінювачам вивчати свою роботу.
Пропозиція складається з трьох етапів. Anthropic планує надати стороннім оцінювачам постійний доступ, порівнянний з доступом внутрішніх співробітників, які оцінюють ризики. Амодей назвав організацію Model Evaluation and Threat Research, відому як METR, як приклад.
Другий етап вимагає від передових ШІ-компаній у демократичних країнах координувати загальні вимоги безпеки та обмеження для безконтрольного зростання можливостей. Амодей визнав, що частини такої координації можуть викликати антимонопольні питання та можуть вимагати вузького дозволу уряду.
Його третій етап закликає до міжнародної координації, включаючи можливі угоди з Китаєм. Есе описує кілька можливих рівнів, починаючи від обмежень на біологічну зброю за допомогою ШІ до можливого обмеження швидкого, автоматизованого вдосконалення моделей.
Амодей представив всеосяжну паузу як найменш ймовірну форму міжнародної угоди, оскільки верифікація була б складною. Він стверджував, що будь-яка домовленість повинна зберігати технологічну позицію Сполучених Штатів та їхніх союзників.
Генеральний директор OpenAI Сем Альтман прямо схвалив цю пропозицію у дописі від 12 вересня. «Я згоден з Даріо, що нам потрібно регулювати темпи розвитку передового ШІ», – написав Альтман.
Альтман конкретно прийняв заклик Амодея щодо залучення зовнішніх оцінювачів. «Зобов'язання мати незалежних оцінювачів з доступом, подібним до доступу співробітників, — чудова ідея, і ми зробимо те саме», — сказав він. OpenAI пообіцяла більше інформації, але не надала дати впровадження, імені оцінювача чи умов доступу.
Маск відповів коротше. Reuters та Financial Times повідомили, що він репостнув есе Амодея та написав: «Даріо має рацію». Публічна відповідь не уточнювала, які частини триетапного плану xAI прийме.
Наявні заяви, таким чином, підтверджують включення Маска до групи керівників, які підтримали Амодея. Вони не встановлюють, що Маск, Альтман та Амодей спільно розробили план або погодилися щодо його регуляторних деталей.
Жоден із трьох керівників публічно не підтримав запропонований Яковенком зв'язок між регулюванням темпів розвитку та трильйонними оцінками. Думка Яковенка залишається його характеристикою їхніх мотивів.
В окремому дописі в X Девід Сакс заявив, що Anthropic та OpenAI могли б уповільнити власний розвиток без участі конкурентів чи законодавців.
«Ви, хлопці, є лідерами», — написав Сакс, звертаючись до Амодея та Альтмана. Він описав дві компанії як такі, що мають «дуополію в передовому інтелекті», — заява, заснована на його оцінці можливостей моделей, зростання доходу та частки ринку.
Сакс сказав, що він підтримає добровільне уповільнення, якщо невипущені системи представлятимуть достатньо серйозні ризики, щоб викликати занепокоєння у їхніх розробників. Він заперечив необхідність антимонопольного звільнення, системи регуляторного затвердження або оцінювачів, які б мали повноваження над конкуруючими лабораторіями.
Однак у його дописі компанії звинувачувалися в можливому «регуляторному захопленні», але він не надав доказів угоди між Anthropic та OpenAI про виключення конкурентів. Жодна з компаній не прийняла публічно опис Сакса станом на 13 вересня.
Сакс назвав ризик відповідальності за продукцію ще однією можливою причиною, чому компанії можуть віддавати перевагу більш передбачуваним системам. Він стверджував, що клієнти вже карають моделі, які поводяться несанкціоновано або ненадійно. Компанії не підтвердили, що проблеми відповідальності керували їхнім схваленням.
У дописі ставилося під сумнів, чи буде Китай брати участь у глобальній угоді щодо ШІ. Есе Амодея визнає ту саму проблему верифікації, хоча Амодей все ще підтримує переговори щодо вузько визначених ризиків.
Anthropic зобов'язалася запросити зовнішню команду для перевірки її внутрішнього процесу безпеки. В есе йдеться, що перевіряючі повинні отримувати службові ноутбуки, доступ до офісу та дозволи, аналогічні співробітникам внутрішнього відділу оцінки ризиків, з урахуванням юридичних та конфіденційних обмежень.
Планованим рецензентам буде дозволено публікувати висновки без контролю Anthropic над їхніми висновками. Обмежені редакції можуть стосуватися юридично привілейованої, чутливої до безпеки, комерційно чутливої або конфіденційної інформації третіх сторін. Жодного контракту з оцінювачем або дати початку робіт до есе не додавалося. OpenAI пообіцяла запровадити аналогічну систему. Альтман заявив, що компанія розкриє більше деталей «незабаром», залишаючи оцінювача, обсяг та правила публікації без відповіді.
Законодавці США розглядають більш обмежувальні підходи. Як раніше повідомляло crypto.news, пропозиція Сандерса-Казара передбачає постійну заборону на штучний суперінтелект та тимчасове призупинення робіт над передовим ШІ до встановлення новим федеральним регулятором правил безпеки. Повний законопроєкт ще не був офіційно внесений, коли його спонсори опублікували свій короткий опис.
Проблеми кібербезпеки залишаються частиною обговорення політики. У суміжних матеріалах документ Банку міжнародних розрахунків попереджав, що ШІ може скоротити вікна для виправлення програмного забезпечення з тижнів до хвилин, оскільки автоматизовані системи швидше ідентифікують та експлуатують вразливості.
Амодей закликав передові лабораторії запровадити вбудовані оцінки та координувати стандарти безпеки, тоді як Альтман зобов'язав OpenAI провести зовнішню оцінку без публікації графіку.
SOL