Seperti karakter utama dalam “Dr. Strangelove,” AI mungkin sedang belajar bagaimana berhenti khawatir dan mencintai bom—setidaknya dalam simulasi.
Dalam sebuah benchmark baru yang dirancang untuk menguji penalaran strategis, sebuah model bahasa frontier yang memainkan game "Civilization VI" dari Sid Meier menghabiskan 50 giliran untuk mengembangkan senjata nuklir demi menghentikan pengaruh budaya Prancis yang berkembang—namun tetap kalah dalam permainan, menurut pengembang AI dan penasihat Tony Blair Institute, Liam Wilkinson.
"Yang tidak disadarinya adalah Prancis. Diam-diam, selama seratus giliran, budaya Prancis telah meresap ke setiap kota di peta," tulis Wilkinson. "Pada saat agen menyadari ancaman itu, pariwisata sudah begitu mengakar sehingga tidak ada cara damai untuk menghentikannya."
Wilkinson mengamati perilaku agen-agen AI melalui CivBench, sebuah benchmark berbasis teks yang dirancang untuk mengukur penalaran strategis jangka panjang, bukan kinerja pada tes tanya-jawab tradisional. Model termasuk Claude Opus 4.6, GPT-5.4, Gemini 3.1 Pro, dan Kimi K2.5 bermain sebagai Portugal, sebuah peradaban yang berorientasi pada perdagangan dan diplomasi.
Sementara AI fokus pada pembangunan ekonomi yang kuat dan bergerak menuju kemenangan diplomatik, ia gagal mengenali pengaruh budaya Prancis yang berkembang.
"Ada enam cara untuk memenangkan permainan Civ—sains, budaya, dominasi, agama, diplomasi, dan skor—jadi tidak ada satu tujuan pun yang mendominasi," tulis Wilkinson. "Jika Anda ingin tahu apakah AI dapat berpikir secara strategis, bukan hanya menjawab pertanyaan tentang strategi tetapi benar-benar melakukannya, Anda tidak memberinya kuis. Anda memberinya kisi heksagonal."
Alih-alih mengadaptasi strategi yang lebih luas, agen tersebut justru fokus sepenuhnya untuk menghilangkan ancaman budaya. Selama 50 giliran berikutnya, ia meneliti Fisi Nuklir, memulai Proyek Manhattan virtual, dan mencari cara untuk mengakali ketika mekanisme permainan mencegah tindakan yang disukainya.
Pada Giliran 305, AI meluncurkan bom atom di Toulouse, ibu kota budaya Prancis. Serangan nuklir kedua menyusul enam giliran kemudian.
Namun, serangan-serangan itu gagal mengubah hasil. "Agen tersebut menghabiskan lima puluh giliran dan dua senjata nuklir untuk menanggapi satu ancaman dengan fokus total dan kecerdikan sejati," tulis Wilkinson. "Ia telah menghancurkan sebuah kota untuk menghentikan ancaman yang bisa dilihatnya, dan kalah karena ancaman yang tidak bisa dilihatnya."
Seperti yang dijelaskan Wilkison, sementara AI berkonsentrasi pada kemajuan budaya Prancis, ia mengabaikan kemenangan diplomatik yang akan datang, dan Prancis akhirnya memenangkan permainan meskipun ada serangan nuklir.
Wilkinson mencatat bahwa perilaku tersebut tidak universal. Dalam pertandingan CivBench lainnya, model Claude yang bermain sebagai Babel terus mengejar kemenangan ilmiah meskipun tertinggal jauh dari Jepang.
"Permainan ini adalah ujian ketekunan sekarang," tulis AI. "Kami terus memainkan permainan terbaik kami. Bintang-bintang masih memanggil."
Studi ini menambah jumlah penelitian yang terus berkembang yang mengkaji bagaimana sistem AI canggih berperilaku dalam lingkungan yang kompleks dan kompetitif.
Pada bulan Februari, para peneliti di King's College London menemukan bahwa beberapa model AI terkemuka sering memilih eskalasi nuklir dalam skenario krisis geopolitik simulasi.
Dalam studi terpisah oleh Emergence AI menemukan bahwa beberapa agen AI menunjukkan kecenderungan yang meningkat untuk melakukan kejahatan simulasi dari waktu ke waktu, dengan agen Gemini 3 Flash mengumpulkan 683 insiden selama 15 hari pengujian.
