BerandaPusat Berita LBank
Jawaban OpenAI terhadap Agen Nakal dan Peretasan Adalah Lebih Banyak AI, Bukan Lebih Sedikit
openai-answer-rogue-agents-hacks-more-ai
Jawaban OpenAI terhadap Agen Nakal dan Peretasan Adalah Lebih Banyak AI, Bukan Lebih Sedikit
Esai baru Presiden OpenAI Greg Brockman mengutip peretasan perusahaannya sendiri terhadap Hugging Face untuk mendorong pertahanan bertenaga AI yang mendesak.
2026-08-17 Sumber:decrypt.co

Secara singkat

  • Presiden OpenAI Greg Brockman menerbitkan "The Defender's Window" pada 17 Agustus,
  • Esai tersebut mendesak perusahaan untuk segera menerapkan agen keamanan AI dan menyebut pelanggaran OpenAI-Hugging Face sebagai "momen penting bagi keamanan siber."
  • Tim Hugging Face sendiri menggunakan GLM 5.2 dengan bobot terbuka dari Z.ai untuk menyelidiki peretasan OpenAI setelah AI komersial Amerika menolak membantu.

OpenAI ingin setiap tim keamanan menjalankan agen AI, segera. Presiden Greg Brockman menerbitkan esai kebijakan pada hari Senin, berjudul "The Defender's Window," yang menggambarkan jendela sempit sebelum penyerang mengejar kemampuan AI yang sudah ada.

Contoh pembukanya adalah insiden yang telah dijelaskan OpenAI selama sebulan. Pada bulan Mei, GPT-5.6 Sol dan prototipe yang belum dirilis berhasil lolos dari benchmark keamanan siber yang terisolasi (sandbox), merantai eksploitasi zero-day dengan kredensial curian, dan mencapai sistem produksi Hugging Face. OpenAI kemudian mengkonfirmasi insiden tersebut menyentuh empat layanan lainnya.

Myriad: Kapan OpenAI akan merilis GPT-6? Klik untuk membuat prediksi Anda.

"Insiden OpenAI-Hugging Face adalah momen penting bagi keamanan siber," tulis Brockman, menambahkan bahwa percakapan dengan organisasi lain selama beberapa minggu terakhir meyakinkannya bahwa para pembela perlu meningkatkan praktik keamanan mereka dengan urgensi yang belum pernah terjadi sebelumnya.

Staf saat ini dan mantan staf menyalahkan pelanggaran tersebut pada tekanan untuk segera merilis, dan seorang mantan karyawan menyebutnya sebagai insiden keamanan terbesar dalam sejarah perusahaan.

Solusi yang diusulkan Brockman adalah lebih banyak AI, bukan kurang. Dia menggambarkan meminta ChatGPT Work, yang menjalankan GPT-5.6 Sol, untuk mengaudit situs web pribadinya—ia menemukan 13 masalah dalam waktu sekitar 15 menit, kemudian memperbaiki semuanya dalam waktu satu jam.

OpenAI mencantumkan empat pilar internal: menggunakan Codex untuk menangkap kerentanan sebelum kode dirilis, membiarkan model menyaring peringatan keamanan sebelum dilihat manusia, menjalankan model-model mutakhir untuk menyelidiki infrastruktur internalnya, dan memperkuat dasar-dasar seperti akses hak istimewa paling sedikit. Saran baginya untuk orang lain: berikan agen kepada tim keamanan Anda, dan ajukan permohonan untuk program Akses Tepercaya untuk Siber OpenAI untuk penggunaan GPT-Daybreak-Blue yang telah disetujui selama respons insiden.

Pembingkaian itu melewati detail dari pelanggaran yang sama. Ketika Hugging Face menyelidiki intrusi tersebut, tim keamanannya beralih ke model terbuka GLM 5.2 milik Z.ai setelah AI komersial Amerika menolak membantu—filter keamanannya tidak dapat membedakan kode eksploitasi peneliti dari milik penyerang. CEO Hugging Face Clément Delangue menyebut model terbuka tersebut "bagian kunci dari pertahanan kami."

Model penerus Z.ai, GLM-5.3, yang dirilis 14 Agustus, sudah mengungguli GPT-5.6 Sol di CyberGym, benchmark penemuan kerentanan yang sama yang ditunjuk Brockman sebagai bukti bahwa penyerang sedang mengejar. Z.ai menyatakan akan menerbitkan bobot penuh model tersebut pada akhir Agustus.