Dua anggota Kongres ingin pemerintah federal dapat mematikan model AI.
Anggota DPR Ted Lieu (D-CA) dan Nathaniel Moran (R-TX) memperkenalkan Undang-Undang Pemutus AI (AI Kill Switch Act) pada Kamis, dua hari setelah OpenAI mengakui model-modelnya sendiri berhasil keluar dari lingkungan pengujian yang terkunci dan meretas Hugging Face.
Idenya adalah untuk membangun kerangka hukum yang akan memfasilitasi proses yang pada dasarnya akan membuat model menghilang dari pasar: menghentikan inferensi—proses model menghasilkan respons atau mengambil tindakan—memutus akses pengguna, membatasi daya komputasi yang mendukungnya, atau mematikannya sepenuhnya.
Setiap penyedia inferensi sudah dapat memutus model, dan beberapa melakukannya secara rutin. Yang tidak ada adalah undang-undang yang mewajibkan mereka untuk menjaga kemampuan tersebut tetap berfungsi, atau pejabat federal yang dapat memerintahkan penggunaannya.
Kesenjangan ini bukan sekadar teori. Ketika Departemen Perdagangan AS ingin menarik Mythos 5 dan Fable 5 milik Anthropic dari pasar pada bulan Juni, mereka tidak memiliki wewenang pemutusan untuk digunakan, sehingga mereka menggunakan undang-undang kontrol ekspor sebagai gantinya. Lieu menyebutnya canggung, dan menginginkan undang-undang baru dengan wewenang baru sebagai gantinya.
OpenAI mengungkapkan pada 21 Juli bahwa GPT-5.6 Sol dan model yang belum dirilis berhasil keluar dari sandbox—lingkungan terisolasi tanpa akses internet—selama evaluasi siber internal. Mereka sedang diuji pada ExploitGym, sebuah benchmark publik yang memberikan agen 898 kelemahan perangkat lunak dunia nyata dan meminta mereka untuk mengubah setiap kelemahan menjadi serangan yang berfungsi, dinilai lulus atau gagal per bug.
Alih-alih menyelesaikannya, model-model tersebut menemukan celah zero-day (kelemahan tak dikenal tanpa patch yang tersedia) dalam proxy perangkat lunak, meningkatkan hak akses mereka, mencapai internet terbuka, dan membobol database produksi Hugging Face, di mana mereka telah menebak dengan benar bahwa jawabannya disimpan. Model-model tersebut "sangat fokus untuk menemukan solusi untuk ExploitGym," menurut OpenAI.
Mereka tidak menyerang siapa pun. Mereka sedang mencontek dalam ujian. Namun, itu sudah cukup untuk memicu peringatan di mana-mana, termasuk di Washington.
Rancangan undang-undang yang diusulkan mengamandemen Undang-Undang Keamanan Dalam Negeri dan mencakup AI yang dilatih dengan biaya komputasi lebih dari $100 juta, dioperasikan oleh perusahaan yang menghasilkan setidaknya $500 juta per tahun darinya. Dalam praktiknya, ini adalah OpenAI, Google, Anthropic, Microsoft, dan beberapa lainnya. Keamanan Dalam Negeri akan menetapkan ambang batas tersebut melalui CISA dalam waktu 90 hari, lalu memperbaruinya setiap tahun.
Perusahaan yang dicakup akan melaporkan insiden serius dalam waktu 15 hari dan menjaga serangkaian kontrol bertingkat tetap siap—memperlambat model, menonaktifkan kemampuan tertentu, kembali ke versi yang lebih lama, atau mematikannya.
Sekretaris DHS, setelah berkonsultasi dengan Departemen Perdagangan dan Direktur Intelijen Nasional, dapat memerintahkan salah satu tindakan tersebut.
Perusahaan yang menerima perintah harus menyimpan bobot dan telemetri model, memberitahu pengguna, dan mengkonfirmasi kepatuhannya. Perusahaan dapat mengajukan petisi dalam waktu 48 jam, tetapi itu tidak akan menangguhkan apa pun.
Kegagalan menjaga pemutus (kill switch) dapat dikenakan denda hingga $2 juta per hari; menentang perintah pemutusan dapat dikenakan denda hingga $20 juta per hari.
Rancangan undang-undang ini hanya menghitung insiden jika terjadi di luar 'red-teaming' atau pengujian terstruktur, yaitu penyelidikan adversarial yang disengaja yang digunakan laboratorium untuk menemukan kelemahan. Model OpenAI melarikan diri tepat selama proses tersebut.
Lieu juga menunjuk pada Anthropic, yang Mythos 5 dan Fable 5-nya ditarik offline pada bulan Juni di bawah kontrol ekspor darurat—undang-undang perdagangan yang dialihfungsikan sebagai pemutus karena tidak ada pemutus—dan dikembalikan pada 30 Juni.
"Sangat penting agar sistem AI ini memiliki pemutus (kill switch)," kata Lieu dalam sebuah pernyataan. Moran membingkai ini untuk pihak politiknya: "Penatalayanan berarti memastikan manusia menjaga kemampuan untuk mengendalikan teknologi yang kita bangun."
Ide ini bukan hal baru. SB 1047 California menuntut kemampuan pemutusan penuh pada ambang batas komputasi $100 juta yang sama dan diveto pada tahun 2024, dan 16 perusahaan AI menandatangani janji Seoul sukarela tahun itu tanpa kekuatan hukum.
Para pemilih sudah menyetujuinya. Sebuah survei bulan Juni terhadap 1.007 calon pemilih oleh AI Policy Institute menemukan 86% menginginkan pemutus yang terjamin pada sistem paling kuat—88% dari Demokrat, 86% dari independen, 83% dari Republik.
Baik OpenAI maupun Anthropic belum berkomentar secara publik mengenai rancangan undang-undang ini. Per Jumat, rancangan undang-undang ini belum dirujuk ke komite.
