Alibaba заборонила співробітникам використовувати код Claude від Anthropic у робочих середовищах з 10 липня через ймовірні проблеми з безпекою, пов’язані із вбудованими бекдорами, за словами особи, знайомої з цим рішенням.
За словами джерела, знайомого з питанням, обмеження застосовуватиметься у всіх внутрішніх робочих середовищах Alibaba і набуде чинності 10 липня. Співрозмовник зазначив, що компанія ухвалила таке рішення через ймовірні ризики безпеки, пов’язані із вбудованими бекдорами в асистенті кодування.
На момент публікації Alibaba не зробила офіційної заяви, і жодних додаткових деталей щодо ймовірних проблем з безпекою чи обсягу обмеження розголошено не було.
Ця остання подія сталася лише через кілька тижнів після того, як моделі Claude від Anthropic втратили доступ до іншої великої групи корпоративних клієнтів у Гонконзі. У червні Financial Times повідомила, що JPMorgan заборонив співробітникам у Гонконзі обирати моделі Claude зі списку затверджених банком великих мовних моделей через ліцензійні умови Anthropic, що регулюють використання моделей.
У звіті йшлося, що Goldman Sachs раніше запровадив аналогічне обмеження після того, як визначив, що умови обслуговування Anthropic виключали використання на території Великого Китаю, включаючи Гонконг. Пізніше Anthropic повідомила Financial Times, що Claude ніколи офіційно не підтримувався в Гонконзі, тоді як JPMorgan відмовився від коментарів.
Ці обмеження посилили занепокоєння серед деяких фінансових установ у Гонконзі, оскільки передові інструменти ШІ глибше інтегруються в розробку програмного забезпечення, дослідження та робочі процеси фінансових послуг, за даними Financial Times.
Рішення Alibaba також слідує за кількома турбулентними тижнями для новітніх систем ШІ Anthropic. 1 липня компанія відновила публічний доступ до своїх моделей Claude Fable 5 і Mythos 5 після того, як влада США скасувала експортні обмеження, які змусили Anthropic призупинити їх у червні.
Anthropic заявила, що відновила розгортання після того, що вона назвала продуктивними дискусіями з офіційними особами США, і додала нові класифікатори, призначені для виявлення та блокування більшої кількості завдань, пов'язаних з кібербезпекою. Компанія заявила, що додаткові заходи безпеки вирішили занепокоєння уряду щодо можливого зловживання за допомогою технік джейлбрейку.
Захищаючи свою технологію, Anthropic стверджувала, що повідомлений джейлбрейк включав обмежений метод, а не універсальний обхід захисту безпеки моделей. Компанія також оголосила про розширення співпраці з урядом США щодо тестування моделей, оцінки безпеки, відстеження зловживань та обміну інформацією, пов’язаною з ризиками джейлбрейку.
