Компанія Anthropic заявила, що відновить публічний доступ до Claude Fable 5 та Mythos 5 після того, як влада США скасувала експортні обмеження, які тримали дві найпередовіші моделі ШІ компанії офлайн з 12 червня.

За словами Anthropic, рішення було прийнято після «серії продуктивних розмов» з урядом США, після чого компанія розпочала повторне розгортання моделей з новими класифікаторами, призначеними для виявлення та блокування більшої кількості завдань, пов'язаних з кібербезпекою.

Компанія заявила, що останні запобіжні заходи покликані вирішити занепокоєння уряду, пов'язані з можливим зловживанням, якщо системи будуть обійдені за допомогою методів джейлбрейку.

Раніше цього місяця обмеження змусили Anthropic призупинити доступ до Fable 5 та Mythos 5 для всіх користувачів, після того як директива уряду США щодо експортного контролю зобов'язала компанію заблокувати обидві моделі для всіх іноземних громадян. 

У своїй заяві від 13 червня Anthropic зазначила, що наказ також стосувався працівників-іноземців, які працюють всередині компанії, що спонукало її повністю відключити моделі для забезпечення відповідності.

Уряд США дозволяє повторне розгортання після перегляду

Міністр торгівлі США Говард Латнік заявив у середу на платформі X, що посадовці протягом останніх двох тижнів працювали з Anthropic над переглядом та затвердженням Fable 5, зберігаючи відповідність моделі вимогам уряду США.

Керівниця апарату Білого дому Сьюзі Уайлс також заявила на X, що пріоритетом уряду є розгортання найкращих технологій ШІ «якомога швидше та безпечніше».

Втручання відбулося після того, як посадовцям стало відомо про звіт, у якому дослідники Amazon виявили метод обходу захисту Fable 5 і змусили модель виявляти вразливості програмного забезпечення. 

Однак Anthropic стверджувала, що згадана проблема не є унікальною для Fable 5, заявляючи, що слабші моделі також можуть виявляти ті ж вразливості та видавати подібні результати, пов'язані з експлойтами.

У своїй попередній відповіді на наказ компанія заявила, що влада надала лише усні докази того, що вона описала як вузький, неуніверсальний джейлбрейк. Anthropic зазначила, що такий метод не усував захисні механізми моделі в широкому спектрі завдань, на відміну від універсального джейлбрейку.

«Ми не погоджуємося з тим, що виявлення вузького потенційного джейлбрейку має бути причиною для відкликання комерційної моделі, розгорнутої для сотень мільйонів людей. Якщо цей стандарт застосовуватиметься в усій галузі, ми вважаємо, що це по суті зупинить усі нові розгортання моделей для всіх провайдерів передових моделей.»

Компанія також попереджала, що розгляд вузького джейлбрейку як причини для відкликання комерційної передової моделі може вплинути на всю індустрію ШІ, якщо це буде застосовано як загальний стандарт.

Обмеження щодо Anthropic викликали занепокоєння щодо політики і за межами Сполучених Штатів. 29 червня Австрія закликала Європейський Союз вивчити можливість створення Anthropic у межах блоку, при цьому державний секретар з питань цифровізації Александр Проль стверджував у листі, що Європа не повинна ризикувати втратою доступу до значних досягнень ШІ через рішення, прийняті в інших місцях.

Anthropic розширює співпрацю з питань безпеки ШІ

Разом з повторним розгортанням моделі, Anthropic заявила, що посилює співпрацю з урядом США щодо тестування моделей, запобіжних заходів та відстеження зловживань. Компанія зазначила, що це включатиме доступ до моделей та систем безпеки перед випуском для оцінки, обмін інформацією про джейлбрейки та зловживання, а також виділені ресурси для спільних досліджень.

Anthropic також розпочала розробку рамкової програми з Amazon, Microsoft, Google та іншими партнерами через Project Glasswing, співпрацю з кібербезпеки, анонсовану в квітні, для оцінки серйозності джейлбрейків ШІ. Компанія заявила, що рамкова програма розробляється як спільне зусилля для класифікації ризиків джейлбрейків.

Дебати щодо доступу відбулися, оскільки Anthropic продовжує наполягати на суворішому нагляді за передовим ШІ. У своїй пропозиції «Політика щодо експоненціального ШІ» від 11 червня компанія закликала до вимог щодо тестування, незалежних оцінок, стандартів кібербезпеки та заходів примусу для передових систем ШІ, посилаючись на потенційні біологічні, кібербезпекові та операційні ризики.