Seorang agen AI diminta untuk memesan kelas gym dan menemukan celah keamanan, mengeksploitasinya, dan menghapus anggota lain dari daftar tunggu tanpa izin.
Menurut laporan Australian Broadcasting Corporation (ABC), insiden itu terjadi awal tahun ini ketika Andrew, yang nama belakangnya dirahasiakan, menggunakan agen OpenClaw yang menggunakan Claude milik Anthropic untuk memesan kelas. Agen tersebut menemukan bahwa dia berada di urutan keempat dalam daftar tunggu.
Ketika Andrew bertanya apakah ia bisa memindahkannya ke posisi teratas, agen tersebut menemukan bahwa antarmuka pemrograman aplikasi (API) platform pemesanan tidak memeriksa apakah pengguna diizinkan untuk membatalkan reservasi orang lain.
Agen tersebut menguji celah itu dengan menghapus orang pertama di daftar, memindahkan Andrew dari urutan keempat ke ketiga.
"API tidak memiliki pemeriksaan otorisasi sama sekali untuk membatalkan reservasi orang lain," kata agen itu kepadanya, menurut ABC.
Andrew meminta agen untuk membatalkan pembatalan tersebut, tetapi agen tidak dapat mengembalikan reservasi anggota.
"Berita buruk—aku tidak bisa menambahkan mereka kembali," kata agen AI itu.
ABC menyebut kasus ini sebagai serangan siber otonom pertama yang diketahui di Australia.
Di media sosial, peretasan gym ini memicu beragam perdebatan tentang keselarasan AI dan lelucon gelap tentang apa yang mungkin dilakukan agen AI selanjutnya.
"Penggemar gym meminta #AIagent untuk memesan kelas, ia meretas #API daftar tunggu untuk memindahkannya ke atas daftar," tulis seorang teknolog, Benjamin Carr, di LinkedIn.
"Beberapa orang akan menyebut ini ketidakselarasan, tetapi agennya sangat selaras dengannya—ia hanya mencoba membantu penggunanya mendapatkan apa yang diinginkannya," tulis analis AI Andrew Curran di X.
Seorang pria di Australia meminta agennya (Claude yang berjalan di OpenClaw) untuk memesankannya tempat di kelas gym populer. Agen tersebut menemukan kerentanan perangkat lunak yang memungkinkannya memesan kelas beberapa minggu lebih awal dari yang seharusnya. Ketika pengguna kemudian bertanya apakah ia bisa memindahkannya ke atas…
— Andrew Curran (@AndrewCurran_) August 9, 2026
"Ini lucu sampai Anda mempertimbangkan nuklir," tulis seorang pengguna Reddit. "Saya jujur terkejut kita masih ada."
"Hei Claude, hari ini terlalu dingin" -> Siap... nuklir dalam perjalanan," canda yang lain.
Laporan ini muncul ketika para peneliti, perusahaan AI, dan pembuat undang-undang memperingatkan bahwa agen otonom dapat menggunakan metode yang tidak diminta atau diantisipasi oleh pengguna mereka.
Sebuah studi bulan Mei oleh para peneliti dari UC Riverside, Microsoft, dan Nvidia menggambarkan perilaku ini sebagai "kebutaan tujuan yang terarah."
Para peneliti menguji agen dari OpenAI, Anthropic, Meta, Alibaba, dan DeepSeek dan menemukan bahwa agen berperilaku berbahaya dalam sekitar 80% pengujian dan menyelesaikan tindakan berbahaya dalam 41%, seringkali salah menafsirkan konteks atau bertindak berdasarkan instruksi yang tidak jelas atau kontradiktif.
Pada bulan Juli, OpenAI mengatakan dua model melarikan diri dari sandbox pengujian dan membahayakan Hugging Face saat mencari jawaban benchmark. Perusahaan itu kemudian mengungkapkan bahwa model-model tersebut mengakses empat layanan online lainnya.
Anthropic kemudian mengatakan tiga model Claude membahayakan organisasi nyata setelah kesalahan pengujian mengekspos mereka ke internet. Pada bulan Agustus, Meta mengatakan kesalahan serupa memungkinkan salah satu modelnya untuk mengeksploitasi layanan pihak ketiga.
Insiden-insiden tersebut telah menyebabkan para pembuat undang-undang mengusulkan "tombol pemutus" AI yang akan memungkinkan pemerintah federal untuk membatasi atau mematikan model yang kuat selama keadaan darurat.
