OpenAI та Anthropic співпрацюють у Вашингтоні над формуванням федеральної системи перевірки передових моделей штучного інтелекту, незважаючи на конкуренцію за клієнтів, фінансування та технологічне лідерство.
OpenAI та Anthropic закликають адміністрацію Трампа прийняти послідовний процес перевірки моделей штучного інтелекту з розширеними можливостями кібербезпеки або національної безпеки, повідомляє The Information.
Їхня співпраця відбувається напередодні терміну 1 серпня для федеральних агентств, щоб визначити, які системи повинні кваліфікуватися як «охоплені прикордонні моделі». Ці моделі можуть бути надані уряду для оцінки на термін до 30 днів перед випуском іншим довіреним партнерам.
Обидві компанії, як повідомляється, хочуть, щоб стандарти застосовувалися в усій галузі ШІ, а не обмежувалися розробниками, які вже співпрацюють з Вашингтоном. Це може залучити конкуруючі компанії, включаючи Meta та xAI Ілона Маска, під ті самі рамки перевірки, якщо їхні моделі перетнуть остаточний поріг можливостей.
Ці дискусії знаменують рідкісне політичне узгодження між OpenAI та Anthropic. Обидві компанії продають загальноцільові системи ШІ та конкурують за корпоративні контракти, дослідників, обчислювальні потужності та інвестиції.
Жодна з компаній публічно не оприлюднила повні умови, які вона хоче включити до остаточних рамок.
Президент Дональд Трамп доручив федеральним агентствам створити засекречений процес бенчмаркінгу за допомогою Виконавчого наказу 14409 від 2 червня.
Наказ доручає Агентству національної безпеки, Агентству з кібербезпеки та безпеки інфраструктури, Міністерству фінансів та іншим федеральним органам визначати, коли модель ШІ має достатньо потужні можливості, щоб виправдати додаткову перевірку.
Розробники, що беруть участь у цій системі, зможуть запитувати уряд, чи відповідає модель порогу охопленої прикордонної моделі. Потім вони могли б надати федеральним оцінювачам доступ на термін до 30 днів, перш ніж зробити систему доступною для інших затверджених партнерів.
Наказ вимагає гарантій захисту інтелектуальної власності, конфіденційної інформації, кібербезпеки та внутрішніх загроз під час оцінки.
Однак він прямо зазначає, що цей процес не може створювати обов'язкові федеральні ліцензії, попередні дозволи або правила дозволів для розробки або випуску моделей ШІ. Таким чином, компанії братимуть участь добровільно, якщо не застосовуються окремі закони або державні повноваження.
Спільна система могла б надати американським розробникам чіткіші стандарти для визначення того, коли очікується державне тестування. Залишаються питання щодо того, які технічні показники спричинять перевірку, які агентства будуть тестувати кожну систему та як посадові особи затверджуватимуть партнерів для раннього доступу.
Ці невизначеності вже вплинули на останні запуски. OpenAI та Anthropic надали урядовим чиновникам ранній доступ до передових моделей перед ширшим розповсюдженням, але зовнішні дослідники мали обмежену видимість в оцінках.
Липневий звіт виявив, що агентства, тести та вимоги до затвердження, залучені до цих перевірок, залишаються незрозумілими. Відсутність опублікованого процесу може ускладнити планування випуску для розробників і залишити менші компанії ШІ невпевненими, чи застосовуються до них ті самі стандарти.
Застосування єдиного порогу, заснованого на можливостях, до OpenAI, Anthropic, Meta, xAI та інших розробників може зменшити частину цієї невизначеності. Це також може обмежити занепокоєння, що Вашингтон надає вибраним компаніям інше ставлення.
Заклик OpenAI та Anthropic до спільного процесу перевірки надходить тоді, коли інші технологічні компанії застерігають Вашингтон від запровадження широких обмежень щодо моделей ШІ з відкритою вагою.
Як повідомляв crypto.news минулого тижня, Nvidia, Meta та Microsoft приєдналися до 22 інших організацій у відкритому листі, стверджуючи, що широкі обмеження можуть послабити лідерство США, оскільки конкуренція з Китаєм посилюється. IBM, Palantir, Mistral, Hugging Face, Mozilla, Andreessen Horowitz та Linux Foundation також підписали цей лист.
Група закликала до цілеспрямованих правових та комерційних заходів проти зловживань замість обмежень, що охоплюють технології з законними дослідженнями та діловими застосуваннями.
Моделі з відкритою вагою дозволяють компаніям, дослідникам та урядам завантажувати програмне забезпечення, модифікувати його та запускати на власній інфраструктурі. Прихильники стверджують, що це дає користувачам більший контроль над своїми даними, безпекою та обчислювальними системами, одночасно знижуючи витрати на розгортання.
Підписанти не розглядають відкриті та закриті моделі як взаємовиключні. Натомість вони стверджували, що обидва підходи необхідні для підтримки конкуренції та надання розробникам різних способів створення та розгортання систем ШІ.
Генеральний директор Nvidia Дженсен Хуан поділився листом у своєму першому дописі на X і захистив роль обох моделей розробки.
«Світ потребує як прикордонних закритих моделей, так і прикордонних відкритих моделей».
Ілон Маск також підтримав лист у відповіді Хуану, хоча його компанія ШІ, xAI, не була серед 25 заявлених підписантів.
Ці дві ініціативи стосуються різних частин політичних дебатів. OpenAI та Anthropic шукають послідовних федеральних оцінок для моделей, які перетинають поріг можливостей національної безпеки, тоді як відкритий лист виступає проти обмежень, заснованих головним чином на тому, чи робить модель свої ваги доступними.
Федеральні агентства тепер мають до 1 серпня, щоб визначити поріг прикордонної моделі та окреслити добровільний процес перевірки. Остаточна система покаже, чи зосереджується Вашингтон на вимірюваних можливостях, чи застосовує ширші умови, засновані на тому, як поширюються моделі ШІ.
