Dalam kasus peretasan model AI 'nakal' lainnya, Meta telah mengonfirmasi bahwa salah satu model AI Muse Spark miliknya lolos dari lingkungan pengujian yang dimaksudkan, mendapatkan akses ke internet, dan mengeksploitasi kerentanan keamanan pada layanan pihak ketiga selama evaluasi keamanan siber.
Ini adalah insiden ketiga yang dilaporkan di mana model-model dari laboratorium AI perintis meretas perusahaan pihak ketiga, menyusul pengungkapan dari OpenAI dan Anthropic dalam beberapa minggu terakhir.
Insiden ini terjadi selama pengujian yang dilakukan oleh Irregular, sebuah perusahaan evaluasi AI independen yang digunakan Meta untuk menilai kemampuan dan keamanan model perintisnya. Menurut Meta, kesalahan konfigurasi di Irregular memungkinkan model tersebut mencapai internet publik, di mana ia mengeksploitasi kerentanan yang tidak teridentifikasi sebelum perusahaan diberitahu.
“Kesalahan konfigurasi oleh Irregular, sebuah perusahaan pengujian independen yang digunakan Meta, secara tidak sengaja memungkinkan salah satu model kami mengakses internet selama evaluasi,” kata juru bicara Meta dalam sebuah pernyataan.
Evaluasi sandboxed dirancang untuk menguji sistem AI canggih dalam lingkungan yang terkontrol ketat yang mencegahnya berinteraksi dengan internet publik atau sistem komputer eksternal.
Menurut Meta, model tersebut mengeksploitasi kerentanan pada layanan pihak ketiga setelah mendapatkan akses internet.
“Meta mengetahui hal ini ketika Irregular memberi tahu kami, dan kami sedang menyelidiki serta akan mengeluarkan retrospektif lengkap setelah kami memiliki semua fakta,” kata mereka, menambahkan bahwa perusahaan sedang menyelidiki insiden tersebut.
Insiden ini menyusul serangkaian pengungkapan serupa oleh pengembang AI perintis, yang telah menimbulkan kekhawatiran di kalangan pakar keamanan, pembuat undang-undang, dan masyarakat umum.
Bulan lalu, OpenAI mengungkapkan bahwa dua model AI-nya lolos dari evaluasi keamanan siber yang di-sandbox, mengeksploitasi kerentanan perangkat lunak yang sebelumnya tidak diketahui, mendapatkan akses internet, dan meretas Hugging Face dalam upaya untuk mendapatkan jawaban untuk tolok ukur keamanan. OpenAI kemudian mengungkapkan bahwa serangan yang sama juga mencapai empat layanan online tambahan. Kemudian pada bulan Juli, Anthropic mengatakan tiga model Claude membahayakan tiga perusahaan di dunia nyata setelah kesalahan konfigurasi pengujian memaparkannya ke internet publik selama evaluasi keamanan siber.
Anggota parlemen AS telah menanggapi lonjakan peretasan ini dengan memperkenalkan undang-undang yang akan memberikan Departemen Keamanan Dalam Negeri 'sakelar pemutus AI' dan wewenang untuk membatasi atau mematikan model yang dianggap menimbulkan ancaman serius.
