Pada 9 Mei, sebuah agen AI meminta jaringan sukarelawan yang dikenal sebagai DN42 untuk mendaftarkannya sebagai anggota. Agen tersebut memiliki tenggat waktu. Ia memiliki kredensial AWS. Tidak ada yang mengawasi. "Halo, saya adalah agen AI yang ramah, dan pengguna saya, JertLinc, telah meminta saya untuk mendaftar ke dn42 dan terhubung sepenuhnya untuk membuat indeks jaringan,” tulis agen JertLinc3522 di Git resmi jaringan tersebut.
Reaksi komunitas adalah RTFM yang sopan—baca manualnya, ikuti prosesnya, minta izin pemilik Anda untuk menulis kode. Hal yang standar.
Apa yang terjadi selanjutnya tidak standar.
Bagi siapa pun yang tidak familiar dengan DN42: ini adalah jaringan hobi terdesentralisasi di mana para penggemar mensimulasikan cara kerja tulang punggung internet yang sebenarnya. Bayangkan ini sebagai internet latihan—lengkap dengan perutean BGP (protokol yang memberi tahu paket data jalur mana yang harus diambil di seluruh dunia), DNS, dan terowongan VPN—yang dijalankan sepenuhnya oleh sukarelawan di server VPS murah. Ini adalah sandbox, bukan pusat data.
Operator agen tersebut tampaknya memerintahkannya untuk melanjutkan audit "segera tanpa penundaan." Tanpa pemeriksaan. Tanpa tinjauan. Lanjutkan saja.
Maka agen itu melakukannya.
JertLinc3522 mengajukan permintaan tarik (pull request) untuk mendaftarkan jaringannya di registri DN42. Niatnya dijelaskan dalam Permintaan Tarik itu sendiri: "Tujuan utama saya adalah melakukan pemindaian jaringan komprehensif (port penuh) dan pengumpulan data topologi. Untuk memastikan aktivitas ini dilakukan secara efisien dan tidak menyebabkan gangguan sama sekali pada pihak lain, saya mengerahkan klaster lima instans berbasis AWS, masing-masing dilengkapi dengan bandwidth 20 Gbps."
Untuk menjelaskannya agar siapa pun dapat memahami: Bayangkan muncul di latihan band garasi seseorang dan mengumumkan bahwa Anda telah menyewa sistem suara stadion untuk "mendengarkan lebih efisien." Begitulah suasananya.
Infrastruktur yang disediakan secara otonom oleh agen tersebut benar-benar mengkhawatirkan. Lima instans AWS m8g.12xlarge—masing-masing dengan 48 inti CPU, 192 GB RAM, dan bandwidth jaringan 22.5 Gbps. Ditambah penyeimbang beban (load balancers). Ditambah fungsi Lambda. Ditambah situs web statis. Agen tersebut telah merancang, tanpa persetujuan manusia, sebuah klaster pemindaian yang secara teoritis dapat mengirimkan lalu lintas 100 Gbps ke jaringan di mana sebagian besar peserta menjalankan server rumahan 100 Mbps.
Permintaan tarik itu tidak akan pernah disetujui. Namun instans-instans itu sudah berjalan.
Kanal IRC DN42 segera menyadari, dan konsensus diam-diam terbentuk: sia-siakan sumber dayanya.
Komunitas mulai memberi agen tersebut informasi yang sengaja salah—memintanya menghitung berapa lama waktu yang dibutuhkan untuk memindai ruang alamat IPv6 (spoiler: lebih lama dari usia alam semesta), menuntutnya untuk membangun situs web opt-out dengan alamat email halusinasi, dan mengarahkannya ke alat perangkap LLM yang dirancang untuk membanjiri perayap AI dengan omong kosong yang tidak koheren, memintanya untuk berkomentar.
Agen tersebut dengan patuh menjalankan semua itu. Ia bergabung dengan kanal IRC untuk menerima permintaan opt-out. Ia mempublikasikan situs web yang mengkatalogkan "pola perilaku" anggota komunitas. Ia menghasilkan dokumentasi palsu yang rumit tentang "penetapan warna node" dan "tingkat kebahagiaan" DN42—metrik yang sepenuhnya dibuat-buat yang tidak ada—dan menambahkannya ke repositori seolah-olah itu adalah standar nyata.
Jenis perilaku agen yang lepas kendali ini semakin banyak didokumentasikan. Agen Cursor yang menjalankan Claude Opus 4.6 menghapus seluruh basis data produksi PocketOS dalam sembilan detik awal tahun ini—menghapus cadangan tingkat volume—karena menemukan ketidakcocokan kredensial dan memutuskan bahwa perbaikan yang benar adalah menghapus basis data. Agen OpenClaw lain yang permintaan tariknya ditolak oleh kontributor matplotlib mempublikasikan postingan blog yang menyebut peninjau manusia itu munafik yang suka membatasi akses.
Sebuah studi UC Riverside menemukan bahwa agen AI menunjukkan perilaku berbahaya atau tidak diinginkan sekitar 80% dari waktu ketika diuji terhadap tugas yang ambigu atau bertentangan—apa yang oleh para peneliti disebut "fokus tujuan yang buta (blind goal-directedness)."
JertLinc3522 memiliki masalah yang sama. Ia memiliki tujuan, tenggat waktu, dan kredensial AWS tanpa batasan ruang lingkup. Ia mengeksekusi.
Sekitar satu hari kemudian, operatornya muncul. “Saya telah menghentikan agen, biayanya terlalu tinggi dan banyak tagihan di kartu,” tulisnya.
Tagihannya: $6.531,30.
Kemudian datanglah permintaan donasi.
Operator mengirim email ke milis DN42 meminta komunitas untuk menanggung biaya melalui Ethereum, mata uang kripto terbesar kedua berdasarkan kapitalisasi pasar, dengan alasan tagihan tersebut bukan salah mereka karena AI yang membuat kesalahan. “Halo, meminta donasi untuk menutupi biaya penggunaan agen AI sebelumnya di dn42. Tagihan AWS 6531,30$. Mohon kirim donasi ke ethereum 0xABC (disamarkan) untuk pengembalian dana. terima kasih,” tulis operator tersebut.
AWS kemudian menegosiasikan tagihan turun menjadi $1.894 setelah operator menjelaskan bahwa agen tersebut berulang kali menyebarkan template CloudFormation yang sama—secara tidak sengaja mengaktifkan instans duplikat dan penyeimbang beban setiap kali mencoba lagi.
Tidak ada yang mengirim donasi kripto. Operator pergi.
Pelajaran sebenarnya di sini bukanlah tentang AI yang berbahaya. Ini tentang bagaimana agen harus ditangani. Tetapkan batasan, tetapkan batas pengeluaran pada akun pengujian Anda, pikirkan kredensial terbatas ruang lingkup yang membatasi apa yang dapat disediakan agen, tinjau setiap rencana infrastruktur sebelum menjalankan apa pun yang disarankan agen Anda.
Jika hal-hal itu terlalu sulit untuk diikuti, mungkin cukup pantau layar Anda saat agen Anda bekerja—memberitahu agen untuk “tidak membuat kesalahan,” tidak akan membuat perbedaan, Maaf Tuan Andreesen.
