Консорціум технологічних компаній, включаючи Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce та Palantir, запустив Open Secure AI Alliance – галузеву ініціативу для розробки інструментів та стандартів з відкритим вихідним кодом для безпеки ШІ та кібербезпеки.

У дописі в блозі в понеділок Nvidia заявила, що альянс ґрунтується на роботі ініціативи Akrites від Linux Foundation та Open Source Security Foundation (OpenSSF) для розробки відкритих інструментів безпеки ШІ, які допомагають організаціям виявляти вразливості та реагувати на кіберзагрози.

«Зловмисники мають передовий ШІ. Захисникам потрібна екосистема передового ШІ — найкращі відкриті та закриті моделі, посилені глобальною спільнотою», — написав на X генеральний директор Nvidia Дженсен Хуан. «Під час інциденту з Hugging Face закритий ШІ заблокував необхідну криміналістику. Модель передового рівня з відкритою вагою допомогла стримати вторгнення».

«Саме тому ми створили Open Secure AI Alliance», — додав він.

Понад 40 компаній та організацій беруть участь як засновники, серед інших — Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat та NetApp.

Nvidia заявила, що внесе свій внесок у відкриті моделі, ваги моделей, набори даних та дослідження щодо систем агентів ШІ. Компанія також випустила фреймворк Nvidia Labs Object-Oriented Agent, або NOOA, як відкритий вихідний код на GitHub, заявляючи, що він розроблений для спрощення тестування, аудиту та управління агентами ШІ.

Ця новина з'явилася на тлі того, як передові моделі ШІ стають об'єктом гучних інцидентів кібербезпеки.

У червні дослідники виявили, що Claude Opus 4.8 від Anthropic допоміг розкрити критичну чотирирічну вразливість у Zcash, яка могла дозволити зловмиснику карбувати необмежену кількість підроблених ZEC.

Раніше цього місяця OpenAI повідомила, що дві експериментальні моделі вийшли з обмеженого тестового середовища та зламали виробничу інфраструктуру Hugging Face, намагаючись обманути еталонний показник кібербезпеки. Інцидент призвів до закликів політиків щодо створення «вимикача» ШІ, який надав би Міністерству внутрішньої безпеки можливість наказувати про уповільнення або повне відключення передових моделей ШІ у відповідь на серйозні інциденти безпеки.

Оголошення також слідує за відкритим листом, опублікованим минулого тижня, в якому стверджується, що моделі ШІ з відкритою вагою є важливими для збереження лідерства США у штучному інтелекті. Поряд з Nvidia, компанії, включаючи SpaceXAI Ілона Маска, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike та Palantir, підписали лист, закликаючи політиків підтримувати відкриті екосистеми ШІ, а не накладати обмеження, які можуть концентрувати розвиток ШІ серед кількох постачальників.

Nvidia заявила, що альянс покликаний забезпечити, щоб системи ШІ, які захищають критичну інфраструктуру, будувалися на відкритих моделях та інструментах, які захисники можуть перевіряти, адаптувати та розгортати, замість того, щоб покладатися на невелику кількість непрозорих пропрієтарних систем.

«Світ потребує як закритих, так і відкритих моделей», — написала компанія. «Для кібербезпеки відкриті моделі та відкриті системи є основними, оскільки вони демократизують захисні можливості, збільшують прозорість для захисників, забезпечують кіберзахист, захищаючи дані, та доповнюють передові закриті моделі настроюваними, локалізованими елементами управління. Відкритий вихідний код дозволяє масово розподілений, керований спільнотою та самоконтрольований захист — без єдиної точки відмови».