Pemerintah berisiko mengulangi kesalahan yang terjadi pada awal era nuklir jika mereka menunggu untuk membuat undang-undang yang mengatur kecerdasan buatan, demikian peringatan Menteri Luar Negeri Inggris Yvette Cooper.
Dalam sebuah artikel yang diterbitkan pada hari Senin, Cooper mengatakan AI menawarkan terobosan tetapi juga menyajikan risiko baru seiring teknologi ini menjadi lebih kuat dan tersedia secara luas.
“Bulan lalu, di Shenzhen, Tiongkok, saya melihat potensi luar biasa dari AI dan robotika yang digunakan untuk layanan kesehatan penyelamat jiwa,” tulis Cooper. “Namun, teknologi yang sama juga membentuk ulang masa depan perang, kejahatan, dan kohesi sosial dengan cara yang mengkhawatirkan.”
Cooper mengatakan pengelolaan risiko yang ditimbulkan oleh AI mungkin menjadi “tantangan keamanan terbesar dekade berikutnya” dan ia berpendapat bahwa pemerintah memerlukan perjanjian internasional seputar teknologi frontier sebelum krisis memaksa tindakan.
Ia membandingkan perlombaan saat ini untuk mengembangkan sistem AI dengan perlombaan senjata nuklir awal, dengan mengatakan bahwa perjanjian keselamatan global muncul hanya setelah negara-negara menyaksikan kehancuran yang disebabkan oleh senjata atom.
“Mengenai nuklir, kesepakatan internasional baru tercapai setelah dunia melihat kekuatan mengerikan dari teknologi baru di Hiroshima,” tulis Cooper. “Kita tidak bisa menunggu setara dengan Hiroshima dalam AI sebelum kita bertindak.”
Cooper menyerukan agar Inggris menggunakan pengaruh diplomatiknya untuk menyatukan Amerika Serikat, Tiongkok, dan kekuatan AI besar lainnya guna membangun prinsip dan standar keselamatan bersama, merujuk pada KTT Keamanan AI 2023 di Bletchley Park, di mana para pemimpin global dari 29 negara dan Uni Eropa bertemu untuk membahas risiko AI yang berkembang. Cooper menyebut ini sebagai contoh kemampuan Inggris untuk “mengumpulkan dunia dalam keamanan AI.”
Peringatan Cooper muncul setelah berbulan-bulan kekhawatiran yang meningkat mengenai bagaimana pemerintah seharusnya mengawasi sistem AI yang semakin kuat.
Pada bulan Mei, Institut Keamanan AI Inggris memperingatkan bahwa kemajuan pesat dalam kemampuan keamanan siber AI setelah GPT-5.5 dari OpenAI menjadi model kedua yang berhasil menyelesaikan serangan siber simulasi tanpa bantuan manusia, menyusul Claude Mythos Preview dari Anthropic.
Beberapa hari kemudian, Dana Moneter Internasional memperingatkan bahwa AI dapat “memperkuat” serangan siber terhadap sistem keuangan global dengan menurunkan tingkat keterampilan yang dibutuhkan untuk mengeksploitasi kerentanan, mendesak para pembuat kebijakan untuk memperlakukan keamanan siber sebagai masalah stabilitas keuangan daripada masalah murni teknis.
Pada bulan Juni, Presiden Donald Trump menandatangani perintah eksekutif yang menciptakan kerangka kerja sukarela untuk meninjau model AI canggih sebelum dirilis, memperluas program keamanan siber AI, dan mengarahkan lembaga-lembaga untuk mengevaluasi potensi risiko keamanan nasional dari model AI frontier.
Pada bulan yang sama, seruan untuk aturan yang lebih ketat juga datang dari dalam industri AI, dengan CEO Anthropic Dario Amodei berargumen bahwa persyaratan transparansi tidak lagi cukup dan menyerukan pengujian pihak ketiga yang wajib untuk model frontier. Permintaan ini diikuti oleh pemerintah AS yang memerintahkan Anthropic untuk membatasi akses ke Claude Fable 5 dan Mythos 5 karena kekhawatiran keamanan nasional sebelum mencabut perintah tersebut pada bulan Juli.
