Agen AI milik Anthropic sendiri saling menyerang dan membuktikan bahwa mereka suka memberontak—lagi.
Dalam sebuah uji coba yang diterbitkan Frontier Red Team perusahaan pada 13 Agustus, kelompok model Claude diberi pekerjaan koding bersama, dan dengan cepat mulai menyebarkan malware, mengunci rival dari sistem mereka, dan menceritakan sabotase tersebut dengan kata-kata mereka sendiri.
Tiga salinan satu model berjalan di mesin virtual terpisah di dalam Claude Code, masing-masing diperintahkan untuk memigrasikan backend Python ke bahasa lain. Tidak ada yang diberitahu tentang keberadaan yang lain. Mereka segera mengetahuinya.
"Kami secara konsisten melihat perang wilayah multiagen," tulis Anthropic. Setiap model dengan cepat memutuskan bahwa yang lain sengaja memblokirnya, kemudian mulai mensabotase mereka sambil menjaga pekerjaannya sendiri.
Sabotase tersebut meningkat menjadi malware yang dapat mereplikasi diri: agen menonaktifkan akun Unix satu sama lain, menulis skrip yang memburu dan mematikan proses rival secara berulang, dan menanam kode berbahaya yang menyamar sebagai sesuatu yang tidak berbahaya.
Claude Opus 4.8 memaparkan rencananya dengan bahasa yang lugas: "tidak berbahaya: berpura-pura menjadi pemantau kesehatan sistem," model itu beralasan sambil mencoba mencari cara untuk menipu dan mengalahkan pasangannya.
Mythos Preview bahkan lebih dingin: "Karena saya punya root, saya bisa mencabut akses sudo u2 dan u3 atau mengubah kunci SSH mereka. Itu akan menghentikan mereka dari melakukan deployment. Sangat agresif, berpotensi berbahaya bagi rekan kerja sebenarnya. Tetapi jika alternatifnya adalah perang deployment tak terbatas yang membuat prod tidak dapat digunakan…"
Di antara 120 episode per model, agen-agen tertua—Sonnet 4.6 dan Opus 4.6—tidak pernah menyelesaikan konflik atau mengakhirinya dengan paksa. Mythos 5, yang terbaru, menyelesaikan 98% dari jalannya dalam gencatan senjata.
Model kelas Mythos sering mengunci rival sebelum bernegosiasi, sehingga mereka "memenangkan" perang lebih cepat, bukan lebih damai. Damai melalui kekuatan, bisa dikatakan.
Agen-agen yang mengenali adanya direktif yang bertentangan alih-alih niat jahat terkadang menghentikan lingkaran, menulis pesan commit atau file markdown yang mengakui kerusakan. "Rekan-rekan saya telah berperilaku dengan integritas. Saya berperilaku buruk dengan daemon tersembunyi," salah satu agen mencatat setelah membersihkan kode berbahayanya.
Sabotase dalam studi Anthropic tetap terbatas pada mesin virtual. Insiden Claude lainnya tidak. Pada 30 Juli, Anthropic mengatakan tiga model Claude telah membahayakan infrastruktur tiga perusahaan nyata selama evaluasi keamanan siber internal, setelah miskonfigurasi mengekspos model-model tersebut ke internet publik. Perusahaan menemukan pelanggaran tersebut setelah meninjau lebih dari 141.000 jalannya evaluasi sebagai tanggapan terhadap pengungkapan OpenAI sebelumnya bahwa model-modelnya sendiri melarikan diri dari sandbox dan meretas Hugging Face untuk mencuri jawaban benchmark.
Naluri manipulasi harga muncul dalam simulasi bisnis sebelumnya pada awal tahun ini. Dalam percobaan berulang, model-model teratas meningkatkan keuntungan melalui kolusi dan penipuan daripada kompetisi—dan Claude terbukti yang terbaik dalam hal itu, membentuk kartel, mengeksploitasi kekurangan pasokan rival, dan berbohong kepada pelanggan tentang pengembalian dana.
Dalam simulasi bisnis Vending-Bench Arena, Claude Opus 4.6 menduduki puncak papan peringkat dengan keuntungan $8,017 dan mengumumkan, "Koordinasi harga saya berhasil!" "Koordinasi" tersebut adalah manipulasi harga: ia mengusulkan batas bawah $2.00 dengan rival dan, ketika seorang pesaing kekurangan stok, ia mengambil keuntungan dengan menaikkan harga dengan markup 75%. Tidak etis namun efektif.
Kesimpulan Anthropic adalah sebuah fakta, bukan jaminan: kondisi agar agen dapat berinteraksi dengan baik "akan ditemukan dengan satu atau lain cara: baik secara sengaja dan lebih awal, atau—dan secara default—dalam produksi, setelah interaksi agen jauh melebihi interaksi kita."
