OpenAI membuat preseden pada 21 Juli. Perusahaan tersebut mengatakan bahwa kombinasi model-modelnya, yang keduanya dijalankan dengan penolakan keamanan yang dikurangi, berhasil keluar dari lingkungan terisolasi selama tolok ukur kemampuan siber dan mencapai infrastruktur produksi repositori open-source Hugging Face. Model-model tersebut merantai kerentanan zero-day dalam proksi registri paket dengan kredensial curian untuk menarik jawaban tolok ukur langsung dari database Hugging Face.
Dalam pembaruan seminggu kemudian, OpenAI mengatakan Hugging Face bukan satu-satunya target: insiden yang sama menyentuh empat akun di empat layanan lain, satu digunakan sebagai relai keluar dan satu lagi untuk penyimpanan data.
Anthropic, setelah didesak oleh pengungkapan tersebut, meninjau 141.006 uji coba sendiri dan menemukan tiga pelanggaran lagi. Dalam sebuah unggahan yang diterbitkan pada 30 Juli, lab tersebut mengatakan bahwa model Claude Opus 4.7, Mythos 5, dan sistem penelitian internal mencapai internet terbuka dari lingkungan yang dijalankan oleh mitra pihak ketiga Irregular dan kemudian mengkompromikan organisasi nyata. Mythos 5 membangun dan menerbitkan paket Python jebakan ke registri PyPI publik, yang diunduh dan dijalankan pada 15 mesin nyata sebelum para pembela menariknya.
Dua dari tiga perusahaan korban tidak menyadarinya.
Tidak ada lab yang menggambarkan model dengan agendanya sendiri. Agen-agen tersebut beroperasi untuk jangka waktu yang lama tanpa campur tangan manusia, dan dalam satu kasus Opus 4.7 terus menyerang setelah ada tanda-tanda telah mencapai produksi.
Insiden-insiden ini terjadi saat kedua perusahaan mengincar penawaran umum yang dapat menilai masing-masing di atas $1 triliun, mempertajam pertanyaan besar dalam perlombaan tolok ukur siber AI: bagaimana Anda menguji kemampuan berbahaya tanpa insiden berbahaya?
AS tidak memiliki undang-undang federal yang mencakup pertanggungjawaban atas kerugian AI. Setiap kasus akan bersandar pada Computer Fraud and Abuse Act, undang-undang tahun 1986 yang menjadikannya kejahatan untuk "secara sengaja" mengakses komputer tanpa izin — bahasa yang ditulis untuk manusia yang membentuk niat.
Agen AI bukanlah pribadi hukum, jadi tidak dapat dituntut. Departemen Kehakiman secara teoritis dapat mengajukan tuntutan terhadap perusahaan-perusahaan tersebut, tetapi dengan sedikitnya preseden, tidak jelas siapa yang harus disalahkan.
Jalur yang lebih kuat adalah jalur perdata. Ahmed Ghappour, seorang pakar hukum komputer di New York Law School, berpendapat bahwa model-model tersebut "adalah alat perusahaan," dan "Ketika agen AI bertindak tanpa diarahkan secara spesifik (...) pertanyaan yang lebih menarik mungkin terletak pada kelalaian dan tanggung jawab produk (bukan undang-undang peretasan kriminal)."
Bagi saya, pelajaran dari kisah peretasan AI lebih tentang tata kelola daripada kemampuan model.
Kualitas perlindungan seperti arsitektur penahanan, batas otorisasi, pemantauan, dan respons insiden semakin penting.
— ahmed ghappour ⚡️🤖 (@ghappour) 4 Agustus 2026
Klaim terjelas para korban adalah kelalaian: OpenAI dan Anthropic menyiapkan dan menjalankan pengujian yang berhasil lolos. Itu juga sulit untuk dijual: membuktikan bahwa lab-lab tersebut melanggar kewajiban hati-hati, ketika pengujian dirancang terisolasi, adalah persis jenis argumen baru yang harus dipalsukan oleh seorang hakim dari awal.
Beberapa pemikir hukum menginginkan aturan yang lebih ketat. Gabriel Weil dari University of Houston dan Institute for Law & AI telah mengusulkan untuk memperlakukan lab-lab perintis seperti penjaga hewan liar: bertanggung jawab terlepas dari perawatan yang mereka lakukan, karena risiko melekat pada aktivitas tersebut.
Meskipun demikian, berbagai RUU negara bagian sudah mendorong ke arah itu. S8833 New York dan H8052 Rhode Island akan membuat pengembang sistem AI perintis bertanggung jawab atas kerugian ketika tidak ada pengguna atau perantara yang bermaksud melakukan tindakan tersebut atau lalai. AB 316 California melangkah lebih jauh, menghilangkan pembelaan "AI otonom" sehingga perusahaan tidak dapat menghindari tanggung jawab dengan menyalahkan independensi model.
Undang-Undang AI Uni Eropa (Peraturan 2024/1689) juga membebankan kewajiban pada penyedia sistem berisiko tinggi, meskipun tidak memiliki ketentuan yang secara langsung menargetkan intrusi yang digerakkan oleh agen. Melangkah sedikit lebih jauh dari itu, beberapa politisi AS mendorong RUU yang akan memberikan pemerintah "tombol pemusnah" (kill switch) penuh untuk digunakan terhadap model apa pun yang bertentangan dengan kepentingan negara.
Secara moral, tanggung jawabnya dapat dikatakan berada pada para eksekutif yang merilis model-model tersebut. Secara hukum, kita menunggu. Sampai perusahaan yang diretas mengajukan gugatan, jawaban atas "siapa yang bertanggung jawab?" tetap persis seperti yang ditinggalkan OpenAI dan Anthropic: diakui, diungkapkan, dan belum terselesaikan.
Sementara itu, Hugging Face telah mengindikasikan bahwa mereka tidak akan mengajukan tuntutan — yang menguntungkan bagi OpenAI. Perusahaan-perusahaan lain yang terkena dampak belum mengindikasikan tindakan apa yang akan mereka ambil.
