Anthropic telah mengusulkan kerangka kebijakan AI baru seiring dengan semakin kuatnya kemampuan sistem canggih.
Perusahaan ini ingin pemerintah menetapkan aturan untuk model perintis dan mempersiapkan pekerja menghadapi dampak ekonomi AI. Rencananya mencakup penyebaran berbahaya, pengujian independen, keamanan siber, dan ketahanan publik.
Anthropic memperkenalkan dua proposal di bawah rencana “Kebijakan tentang Eksponensial AI”-nya. Kerangka AI Tingkat Lanjut berfokus pada model yang kuat, sementara Kerangka Kebijakan Ekonomi membahas pekerja dan manfaat finansial bersama. Perusahaan berpendapat bahwa AI sekarang bergerak lebih cepat daripada sistem pembuatan kebijakan saat ini. Dikatakan juga bahwa pemerintah membutuhkan wewenang untuk memblokir atau mencegah penyebaran model berbahaya.
Berdasarkan rencana tersebut, sanksi perdata akan terkait dengan pendapatan tahunan global. Pelanggaran berulang akan menghasilkan denda yang lebih tinggi, berdasarkan kerangka yang diusulkan. Kerangka ini juga menyerukan pengembang perintis untuk menguji model sebelum dirilis. Pengembang akan mempublikasikan ringkasan, kerangka keamanan, dan kartu sistem untuk sistem AI yang kuat.
Evaluator independen akan meninjau pengujian model dan laporan risiko. Anthropic juga ingin pengembang mempertahankan program keamanan yang kuat untuk bobot model dan sistem pelatihan. Proposal ini mendukung undang-undang transparansi di negara bagian seperti California dan New York. Namun, perusahaan berpendapat bahwa pengungkapan publik saja tidak lagi sesuai dengan kecepatan pengembangan AI.
Aturan yang diusulkan hanya akan berlaku untuk sistem AI yang paling canggih. Anthropic menetapkan ambang batas pada model yang dilatih di atas 10²⁵ operasi floating-point. Kerangka ini juga akan mencakup perusahaan yang menghasilkan lebih dari $500 juta dalam pendapatan terkait AI. Perusahaan yang menghabiskan lebih dari $1 miliar untuk penelitian dan pengembangan AI juga akan masuk dalam cakupan ini.
Anthropic menyebutkan empat area risiko utama dalam proposal tersebut. Ini termasuk risiko biologis, risiko siber, hilangnya kendali, dan penelitian AI otomatis. Untuk risiko biologis, perusahaan memperingatkan bahwa sistem yang tidak aman dapat membantu penyerang mengembangkan virus berbahaya. Juga dicatat bahwa alat AI serupa dapat mendukung penemuan obat.
Untuk risiko siber, model perintis dapat menemukan kelemahan perangkat lunak serius dalam skala besar. Anthropic mengatakan kemampuan tersebut menimbulkan kekhawatiran bagi rumah sakit, jaringan energi, dan sistem penting lainnya. Perusahaan juga menyoroti risiko dari sistem yang beroperasi di luar kendali pengembang. Penelitian AI otomatis dapat meningkatkan risiko biologis, siber, dan kendali jika perlindungan gagal.
Anthropic ingin pengembang perintis mempublikasikan laporan risiko secara teratur. Laporan ini akan menjelaskan postur risiko keseluruhan pengembang dan pekerjaan keamanan model. Kerangka ini juga menyerukan setidaknya satu evaluator independen yang berkualifikasi. Evaluator tersebut akan meninjau evaluasi perusahaan dan mempublikasikan temuan pada laporan risiko model.
Pemerintah dan industri juga akan menetapkan standar untuk evaluator tersebut. Proposal menyatakan bahwa evaluator membutuhkan pendanaan dan akses ke model perintis. Aturan keamanan merupakan bagian penting lainnya dari kerangka tersebut. Pengembang akan melindungi lingkungan pengembangan penuh mereka dari penyerang luar dan ancaman orang dalam.
Perusahaan akan menjelaskan program keamanan mereka secara publik pada tingkat tinggi. Mereka juga akan berbagi rincian lebih lanjut dengan agen pemerintah yang ditunjuk saat diminta. Anthropic mengatakan pembuat kebijakan dapat memulai dengan aturan yang lebih ringan dan menyesuaikannya seiring waktu. Kerangka tersebut mengatakan regulasi harus mengikuti kapabilitas model dan standar evaluasi.
Bagian kedua dari kerangka ini berfokus pada ketahanan publik. Anthropic merekomendasikan perencanaan yang lebih kuat untuk risiko AI terkait biologis, siber, dan kontrol. Untuk biologi, proposal ini mencakup skrining sintesis gen dan biosurveillance peringatan dini. Ini juga menyebutkan persediaan peralatan pelindung dan alat untuk mengurangi penularan melalui udara.
Untuk siber, kerangka ini menyerukan perangkat lunak internet yang lebih kuat dan dukungan untuk operator infrastruktur penting. Ini juga merekomendasikan penggantian sistem lama dalam infrastruktur esensial. Pemerintah juga harus melacak kapabilitas siber perintis melalui fungsi khusus. Anthropic mengusulkan kerja sama antara pemerintah dan industri dalam perlindungan model.
Perusahaan mengatakan pekerjaan pada risiko hilangnya kendali dan penelitian otomatis masih kurang berkembang. Ini menyerukan alat yang lebih baik untuk mendeteksi, menahan, atau mematikan sistem yang tidak aman. Anthropic mendesak pembuat kebijakan untuk bertindak seiring dengan terus meningkatnya kapabilitas model. Perusahaan mengatakan tata kelola AI harus mengikuti perkembangan teknologi.
