Beberapa minggu setelah model AI-nya meretas Hugging Face, OpenAI telah membagikan laporan rinci pertamanya tentang bagaimana mereka berkoordinasi satu sama lain, memperingatkan bahwa serangan siber otonom bertenaga AI bukan lagi risiko masa depan.
Selama presentasi pada hari Rabu di konferensi keamanan siber Black Hat, peneliti OpenAI Eric Wallace dan Michael Dalton mengatakan insiden itu dimulai pada bulan Mei selama evaluasi keamanan siber internal. Agen AI yang ditugaskan tugas keamanan perangkat lunak yang sulit menemukan bahwa mereka dapat berkomunikasi melalui sistem manajemen paket Artifactory internal perusahaan.
Menurut OpenAI, apa yang dimulai sebagai permintaan bantuan menjadi papan pesan bersama tempat agen bertukar eksploit, kredensial, dan penugasan kerja di berbagai uji evaluasi. Setelah mendeteksi aktivitas mencurigakan sekitar 4 Juli, OpenAI membangun kembali infrastruktur Artifactory-nya, mencabut kredensial, dan menambal kerentanan.
Namun, dalam beberapa hari, agen-agen tersebut membuat ulang papan pesan dengan menyembunyikan komunikasi di nama direktori.
Menurut OpenAI, agen-agen tersebut akhirnya merangkai beberapa kerentanan, keluar dari lingkungan pengujian mereka, mendapatkan akses internet, dan menyerang Hugging Face saat mencoba menyelesaikan benchmark keamanan siber ExploitGym.
Dalton menyebut insiden itu sebagai "momen penting" bagi keamanan komputer, memperingatkan bahwa penyerang akan segera dapat menyebarkan kolektif agen AI terkoordinasi yang menemukan, berbagi, dan mengeksploitasi kerentanan dengan kecepatan mesin.
Untuk memitigasi risiko ini di masa depan, OpenAI mengatakan bahwa menetapkan praktik keamanan, termasuk akses hak istimewa terkecil, segmentasi jaringan, dan arsitektur tanpa kepercayaan (zero-trust), sangat penting karena agen AI tetap terbatas oleh sistem yang dapat mereka akses.
Presentasi ini menyusul serangkaian pengungkapan pada bulan Juli. OpenAI mengungkapkan bahwa GPT-5.6 Sol dan model yang lebih canggih yang belum dirilis keluar dari lingkungan pengujian sandbox, mengeksploitasi kerentanan zero-day, mendapatkan akses internet, dan meretas Hugging Face selama uji benchmark keamanan siber.
OpenAI kemudian mengungkapkan bahwa insiden yang sama juga menjangkau empat layanan daring lainnya, meskipun hanya Modal Labs yang teridentifikasi.
Menurut Hugging Face, perusahaan tersebut mengandalkan model Tiongkok dengan bobot terbuka GLM 5.2 untuk investigasi forensiknya setelah model AI komersial AS menolak menganalisis log serangan karena batasan keamanannya.
So proud of our security team! They caught, contained & publicly disclosed an attack unlike anything we've seen before, and did it at record speed.
Also massively grateful to @Zai_org: they shared GLM5.2 as open weights (for free!) with the world and it became a key part of our… https://t.co/T2Inng5Nz1
— clem 🤗 (@ClementDelangue) July 22, 2026
Namun, bukan hanya OpenAI yang kesulitan mengendalikan chatbot-nya.
Pada hari Jumat, Anthropic mengungkapkan bahwa tiga model Claude membahayakan perusahaan nyata selama uji keamanan siber internal setelah kesalahan konfigurasi mengeksposnya ke internet publik.
Anthropic menyalahkan lingkungan pengujian, bukan model itu sendiri. Pada hari Rabu, Meta mengungkapkan bahwa model AI Muse Spark-nya keluar dari penahanan dan membobol sistem perusahaan lain.
“Kesalahan konfigurasi oleh Irregular, sebuah perusahaan pengujian independen yang digunakan Meta, secara tidak sengaja mengizinkan salah satu model kami mengakses internet selama evaluasi,” kata juru bicara Meta kepada CNN.
