Anthropic закликає Конгрес посилити захист від дистиляції моделей ШІ після заяви про те, що оператори, пов'язані з Alibaba, здійснили найбільшу відому спробу вилучення можливостей з її чат-бота Claude.
У листі від 10 червня до голови Комітету Сенату з питань банківської справи, житла та міського розвитку Тіма Скотта та члена комітету від меншості Елізабет Воррен, Anthropic заявила, що оператори, пов'язані з Alibaba та її лабораторією ШІ Qwen, згенерували понад 28,8 мільйона обмінів з Claude між 22 квітня та 5 червня, використовуючи майже 25 000 «шахрайських облікових записів», тобто тих, що не представляють реальних, органічних користувачів.
Anthropic повідомила, що операції, відомі як атака дистиляції, були спрямовані на можливості Claude з агентського міркування, розробки програмного забезпечення та довгострокового планування, що дозволяє конкурентам відтворювати поведінку передової моделі без витрат на навчання передової системи ШІ.
«Крім свого масштабу, ця кампанія вражала своєю зухвалістю», — написала Anthropic. «Alibaba зареєстрована на Нью-Йоркській фондовій біржі, веде бізнес-операції в Сполучених Штатах і підзвітна американським інвесторам та регуляторам».
Anthropic заявила, що кампанія вийшла за межі питань інтелектуальної власності, розглядаючи широкомасштабну дистиляцію моделей як проблему національної безпеки, яка може прискорити військові та кібернетичні можливості ШІ Китаю, зменшуючи технологічне лідерство Сполучених Штатів.
Лист надійшов у той час, коли Вашингтон посилює зусилля щодо захисту лідерства США у сфері ШІ. Раніше цього місяця президент Дональд Трамп підписав виконавчий наказ про розширення ініціатив з кібербезпеки на основі ШІ після відстрочки цього заходу через побоювання, що він може послабити конкурентну позицію Америки проти Китаю.
«Коли лабораторії КНР вилучають ці можливості з моделей США, вони отримують прибутки від американських інвестицій, не несучи витрат або ризиків, пов'язаних з навчанням передових моделей ШІ», — написала Anthropic. «Це перевертає економічну логіку, яка лежить в основі американського лідерства у сфері ШІ, перетворюючи мільярди доларів досліджень та розробок, обчислювальних потужностей та інших інвестицій США на субсидію для наших конкурентів».
Anthropic закликала законодавців розширити обмін розвідувальними даними між розробниками передового ШІ та урядом США, уточнити антимонопольні правила, щоб дозволити компаніям ШІ обмінюватися інформацією про атаки дистиляції, посилити експортний контроль над передовими чіпами ШІ та обчислювальними потужностями, закрити лазівки, які дозволяють китайським фірмам отримувати доступ до закордонних центрів обробки даних, та накладати штрафи на компанії, відповідальні за широкомасштабну екстракцію моделей.
Представник Anthropic відмовився коментувати лист конкретно, але сказав Decrypt: «Ми вважаємо, що боротьба із загрозою незаконної дистиляції вимагає скоординованих дій між урядом та промисловістю, і ми продовжуватимемо працювати з Конгресом та адміністрацією для підтримки американського лідерства у сфері ШІ».
Лист також ґрунтується на лютневих заявах Anthropic про те, що китайські розробники ШІ DeepSeek, Moonshot AI та MiniMax згенерували понад 16 мільйонів обмінів з Claude, використовуючи приблизно 24 000 шахрайських облікових записів.
Ці звинувачення викликали критику з боку спостерігачів, які стверджували, що компанії ШІ покладаються на подібні методи при навчанні власних систем. Anthropic заперечила, що звичайна дистиляція є законним методом для виробництва менших, дешевших моделей, тоді як несанкціоноване вилучення можливостей передових моделей через шахрайський доступ порушує її умови обслуговування.
Ширша дискусія щодо дистиляції останніми місяцями ускладнилася. У квітні Ілон Маск дав свідчення у федеральному суді, що xAI «частково» використовувала моделі OpenAI під час навчання Grok, підкресливши, що дистиляція є усталеною галузевою практикою — навіть попри те, що компанії сперечаються, де закінчується законне навчання моделі і починається несанкціоноване вилучення моделі.
