Anthropic menyatakan akan memulihkan akses publik ke Claude Fable 5 dan Mythos 5 setelah otoritas AS mencabut pembatasan ekspor yang telah membuat dua model AI tercanggih perusahaan tersebut tidak dapat diakses sejak 12 Juni.
Menurut Anthropic, keputusan tersebut menyusul “serangkaian percakapan produktif” dengan pemerintah AS, setelah itu perusahaan mulai menyebarkan kembali model-model tersebut dengan klasifier baru yang dirancang untuk mengidentifikasi dan memblokir lebih banyak tugas terkait keamanan siber.
Perusahaan mengatakan pengamanan terbaru ini dimaksudkan untuk mengatasi kekhawatiran pemerintah terkait potensi penyalahgunaan jika sistem dilewati melalui metode jailbreak.
Pembatasan tersebut memaksa Anthropic untuk menangguhkan akses ke Fable 5 dan Mythos 5 untuk semua pengguna awal bulan ini, setelah arahan kontrol ekspor pemerintah AS memerintahkan perusahaan untuk memblokir kedua model tersebut untuk semua warga negara asing.
Dalam pernyataannya pada 13 Juni, Anthropic mengatakan perintah tersebut juga mencakup karyawan warga negara asing yang bekerja di dalam perusahaan, mendorongnya untuk menonaktifkan seluruh model guna memastikan kepatuhan.
Menteri Perdagangan AS Howard Lutnick mengatakan di X pada hari Rabu bahwa para pejabat telah bekerja sama dengan Anthropic selama dua minggu terakhir untuk meninjau dan menyetujui Fable 5 sambil menjaga model tetap selaras dengan persyaratan pemerintah AS.
Kepala Staf Gedung Putih Susie Wiles juga mengatakan di X bahwa prioritas pemerintah adalah menerapkan teknologi AI terbaik “secepat dan seaman mungkin.”
Intervensi ini terjadi setelah para pejabat mengetahui laporan di mana peneliti Amazon menemukan metode untuk melewati pengamanan Fable 5 dan membuat model tersebut mengidentifikasi kerentanan perangkat lunak.
Anthropic, bagaimanapun, berpendapat bahwa masalah yang dilaporkan tidak unik pada Fable 5, mengatakan model yang lebih lemah juga dapat mengidentifikasi kerentanan yang sama dan menghasilkan output terkait eksploitasi serupa.
Dalam tanggapan awalnya terhadap perintah tersebut, perusahaan mengatakan pihak berwenang hanya menyajikan bukti lisan tentang apa yang digambarkannya sebagai jailbreak sempit, non-universal. Anthropic mengatakan metode semacam itu tidak menghilangkan perlindungan keamanan model di berbagai tugas, tidak seperti jailbreak universal.
“Kami tidak setuju bahwa penemuan potensi jailbreak yang sempit harus menjadi alasan untuk menarik kembali model komersial yang digunakan oleh ratusan juta orang. Jika standar ini diterapkan di seluruh industri, kami yakin itu pada dasarnya akan menghentikan semua penyebaran model baru untuk semua penyedia model batas.”
Perusahaan juga telah memperingatkan bahwa memperlakukan jailbreak sempit sebagai alasan untuk menarik kembali model batas komersial dapat mempengaruhi seluruh industri AI jika diterapkan sebagai standar umum.
Pembatasan terhadap Anthropic juga telah menimbulkan kekhawatiran kebijakan di luar Amerika Serikat. Pada 29 Juni, Austria mendesak Uni Eropa untuk menjajaki pendirian Anthropic di dalam blok, dengan Sekretaris Negara untuk Digitalisasi Alexander Proell berargumen dalam sebuah surat bahwa Eropa tidak boleh mengambil risiko kehilangan akses ke kemajuan AI besar karena keputusan yang dibuat di tempat lain.
Selain penyebaran kembali model, Anthropic mengatakan pihaknya meningkatkan kerja sama dengan pemerintah AS dalam pengujian model, pengamanan, dan pelacakan penyalahgunaan. Perusahaan mengatakan ini akan mencakup akses pra-rilis ke model dan sistem keamanan untuk evaluasi, berbagi informasi tentang jailbreak dan penyalahgunaan, dan sumber daya khusus untuk penelitian bersama.
Anthropic juga telah mulai menyusun kerangka kerja dengan Amazon, Microsoft, Google, dan mitra lainnya melalui Project Glasswing, kolaborasi keamanan siber yang diumumkan pada bulan April, untuk menilai tingkat keparahan jailbreak AI. Perusahaan mengatakan kerangka kerja tersebut sedang dikembangkan sebagai upaya konsensus untuk mengklasifikasikan risiko jailbreak.
Debat akses tersebut terjadi ketika Anthropic terus mendorong pengawasan AI batas yang lebih ketat. Dalam proposal "Kebijakan tentang Eksponensial AI" pada 11 Juni, perusahaan menyerukan persyaratan pengujian, evaluasi independen, standar keamanan siber, dan langkah-langkah penegakan untuk sistem AI canggih, mengutip potensi risiko biologis, keamanan siber, dan operasional.
