Pakar keamanan dari Amerika Serikat dan Tiongkok telah mengusulkan aturan yang akan melarang kecerdasan buatan melancarkan serangan siber secara mandiri terhadap sistem komando nuklir atau memutuskan untuk menggunakan senjata nuklir.

Sebuah laporan terbaru dari Brookings dan Universitas Fudan yang berbasis di Shanghai mendesak AS dan Tiongkok untuk memperluas komitmen mereka terhadap kontrol manusia atas senjata nuklir ke penggunaan militer AI lainnya, termasuk serangan siber pada sistem komando nuklir.

“Presiden Donald Trump dan Xi Jinping dapat memimpin dalam mengatur bahaya ini dengan menyepakati bahwa hanya manusia, bukan AI, yang harus membuat keputusan untuk melancarkan serangan siber terhadap sistem komando, kontrol, dan komunikasi nuklir (NC3) atau infrastruktur penting satu sama lain,” tulis para peneliti.

Sistem NC3 membantu pemerintah mendeteksi ancaman, memutuskan apakah akan menggunakan senjata nuklir, dan mengirimkan perintah peluncuran, namun kegagalan pada setiap tahap dapat mengganggu komunikasi, salah membaca serangan, mendorong serangan pertama, atau memicu peluncuran yang tidak disengaja atau tidak sah.

“Memperluas prinsip yang diterapkan pada senjata nuklir—bahwa serangan dengan efek strategis harus menyatakan niat manusia dan harus tunduk pada akuntabilitas manusia—tidak mengharuskan Washington dan Beijing untuk berbagi prinsip-prinsip lain tentang keamanan siber atau perlindungan infrastruktur,” tulis para peneliti.

Kesepakatan yang diusulkan akan mengharuskan kedua negara untuk mengurangi risiko bahwa kebetulan, kesalahan manusia, AI yang tidak dapat diprediksi, atau aktor tidak sah dapat memicu serangan dengan konsekuensi strategis.

Seruan untuk pengamanan ala nuklir ini adalah bagian dari perdebatan yang berkembang tentang bagaimana memperlambat pengembangan AI dan menjaga sistem yang semakin canggih di bawah kendali manusia. Kekhawatiran ini sangat akut di kalangan militer, di mana keputusan otomatis yang dibuat dalam hitungan milidetik dapat mengubah peringatan palsu atau serangan siber menjadi krisis nuklir.

Kekhawatiran itu dipertegas pada bulan Februari ketika model dari OpenAI, Google, dan Anthropic menggunakan senjata nuklir dalam 95% skenario permainan perang yang diuji, meskipun para ahli memperingatkan bahwa simulasi tersebut mungkin telah mendorong eskalasi.

BitcoinBTC · USD

$76,496−0.09%

24H7D1M1YYTD

Sep 11Sep 12Sep 14Sep 16Sep 17

$79.2k$78.0k$76.7k$75.5k

Tertinggi 24 jamTinggi$77,024

Terendah 24 jamRendah$75,610

VolumeVolume$850.3M

Proyeksi pasarPeluang oleh Myriad

Minggu iniDi atas $76.000Di atas $76ribuPeluang 64%

Data harga oleh CoinGeckoCoinGeckoBerita dan proyeksi Bitcoin lainnya →

Pada bulan yang sama, Anthropic menolak tuntutan Pentagon untuk menghapus pembatasan Claude terhadap pengawasan massal dan senjata yang sepenuhnya otonom. Trump memerintahkan lembaga federal untuk berhenti menggunakan teknologi perusahaan tersebut, namun seorang hakim federal memutuskan pada 28 Agustus bahwa pemerintahan tersebut telah melakukan pembalasan secara ilegal terhadap Anthropic.

Seruan untuk menahan diri sejak saat itu telah menyebar ke seluruh industri. Awal bulan ini, CEO Anthropic Dario Amodei mendesak para pengembang untuk memperlambat peningkatan kapabilitas, mendapatkan dukungan dari CEO OpenAI Sam Altman dan pemilik xAI Elon Musk, sementara OpenAI bertanya kepada Kongres apakah perusahaan dapat mengoordinasikan perlambatan tanpa melanggar undang-undang antimonopoli.

Karena tidak ada perlambatan yang mengikat, para penulis Brookings mengusulkan aturan yang lebih sempit: Hanya manusia yang boleh mengotorisasi serangan terhadap sistem komando nuklir atau penggunaan senjata nuklir.

“Tata kelola AI militer bukanlah negosiasi yang bisa ditunda—ini adalah perlombaan melawan waktu,” tulis mereka.