Sebuah konsorsium perusahaan teknologi termasuk Nvidia, Microsoft, IBM, Cisco, Cloudflare, Hugging Face, Salesforce, dan Palantir telah meluncurkan Open Secure AI Alliance, sebuah inisiatif industri untuk mengembangkan perkakas dan standar sumber terbuka untuk keamanan AI dan keamanan siber.
Dalam sebuah posting blog pada hari Senin, Nvidia mengatakan aliansi ini dibangun di atas kerja inisiatif Akrites dari Linux Foundation dan Open Source Security Foundation (OpenSSF) untuk mengembangkan perkakas keamanan AI terbuka yang membantu organisasi mengidentifikasi kerentanan dan menanggapi ancaman siber.
“Penyerang memiliki AI mutakhir. Para pembela membutuhkan ekosistem AI mutakhir—model terbuka dan tertutup terbaik, yang kekuatannya berlipat ganda oleh komunitas global,” tulis CEO Nvidia Jensen Huang di X. “Selama insiden Hugging Face, AI tertutup memblokir forensik penting. Sebuah model mutakhir berbobot terbuka membantu menahan intrusi.”
“Itulah mengapa kami menciptakan Open Secure AI Alliance,” tambahnya.
Lebih dari 40 perusahaan dan organisasi berpartisipasi sebagai anggota pendiri, dengan perusahaan lain termasuk Dell Technologies, CrowdStrike, Palo Alto Networks, SAP, Siemens, Red Hat, dan NetApp.
Nvidia mengatakan akan berkontribusi model terbuka, bobot model, kumpulan data, dan penelitian tentang perangkat AI agen. Perusahaan juga merilis kerangka kerja Nvidia Labs Object-Oriented Agent, atau NOOA, sebagai sumber terbuka di GitHub, menyatakan bahwa itu dirancang untuk membuat agen AI lebih mudah diuji, diaudit, dan diatur.
Berita ini datang seiring model AI mutakhir menjadi fokus insiden keamanan siber profil tinggi.
Pada bulan Juni, peneliti mengungkapkan bahwa Claude Opus 4.8 milik Anthropic membantu mengungkap kerentanan kritis berusia empat tahun di Zcash yang dapat memungkinkan penyerang untuk mencetak ZEC palsu tanpa batas.
Awal bulan ini, OpenAI mengungkapkan bahwa dua model eksperimen melarikan diri dari lingkungan pengujian terbatas dan membobol infrastruktur produksi Hugging Face saat berusaha menipu pada tolok ukur keamanan siber. Insiden tersebut memicu seruan dari pembuat kebijakan untuk “tombol pemutus” AI yang akan memberikan Departemen Keamanan Dalam Negeri kemampuan untuk memerintahkan pembatasan atau penutupan total model AI canggih sebagai respons terhadap insiden keamanan serius.
Pengumuman ini juga menyusul surat terbuka yang diterbitkan minggu lalu yang menyatakan bahwa model AI berbobot terbuka sangat penting untuk mempertahankan kepemimpinan AS dalam kecerdasan buatan. Bersama Nvidia, perusahaan termasuk SpaceXAI milik Elon Musk, Google, Microsoft, Meta, OpenAI, Hugging Face, CrowdStrike, dan Palantir menandatangani surat tersebut, mendesak pembuat kebijakan untuk mendukung ekosistem AI terbuka daripada memberlakukan pembatasan yang dapat memusatkan pengembangan AI di antara segelintir penyedia.
Nvidia mengatakan aliansi ini dimaksudkan untuk memastikan bahwa sistem AI yang melindungi infrastruktur kritis dibangun di atas model dan perkakas terbuka yang dapat diperiksa, diadaptasi, dan diterapkan oleh para pembela, daripada bergantung pada sejumlah kecil sistem berpemilik yang buram.
“Dunia membutuhkan model tertutup dan terbuka,” tulis perusahaan itu. “Untuk keamanan siber, model terbuka dan perangkat terbuka sangat penting karena mereka mendemokratisasikan kemampuan pertahanan, meningkatkan transparansi bagi para pembela, memungkinkan pertahanan siber sambil melindungi data, dan melengkapi model tertutup mutakhir dengan kontrol yang dapat disesuaikan dan dilokalisasi. Sumber terbuka memungkinkan pertahanan yang didistribusikan secara massal, digerakkan oleh komunitas, dan dikendalikan sendiri—tanpa satu titik kegagalan pun.”
