Janji-janji perusahaan AI untuk memperlambat pengembangan dapat goyah di bawah tekanan komersial dan persaingan AS-Tiongkok tanpa standar keamanan yang dapat ditegakkan, demikian argumen para ahli Atlantic Council dalam analisis yang diterbitkan Minggu.
Analisis ini mengkaji siapa yang akan memberlakukan perlambatan dan apakah pemerintah memiliki keahlian untuk menentukan kapan sistem yang semakin kuat menjadi tidak aman.
“Komitmen sukarela dapat menjadi sinyal yang berguna, namun bukan pengganti pengawasan independen, ambang batas yang terukur, dan konsekuensi ketika ambang batas tersebut terlampaui,” tulis Konstantinos Komaitis, seorang senior fellow residen di Democracy + Tech Initiative dewan tersebut.
Baru-baru ini, OpenAI bertanya kepada anggota parlemen apakah pengembang AI saingan dapat secara hukum setuju untuk memperlambat pengembangan tanpa melanggar undang-undang anti-trust, menyusul peringatan dari kepala ilmuwannya, Jakub Pachocki, bahwa pengamanan yang ada tidak cukup untuk mempertahankan pengembangan kecepatan penuh secara bertanggung jawab lebih lama lagi.
Perusahaan AI menghadapi risiko kompetitif jika mereka melambat sendiri dan kekhawatiran antitrust jika mereka berkoordinasi. Kerja sama antar pemerintah menghadapi ketidakpercayaan, dengan Beijing khawatir Washington dapat menggunakan aturan keamanan untuk mempertahankan keunggulan teknologinya, tulis Kenton Thibaut, senior fellow residen Tiongkok di dewan tersebut.
“Tiongkok skeptis terhadap motivasi AS dan memperingatkan bahwa diskusi keamanan dapat menyamarkan upaya AS untuk memajukan 'hegemoni teknologinya,'” tulisnya. “Sumber resmi menegaskan bahwa Washington tidak dapat secara sepihak menetapkan ambang batas risiko perbatasan dan harus menunjukkan bahwa aturan tersebut juga akan berlaku untuk—dan dapat ditegakkan pada—perusahaan-perusahaan Amerika.”
Thibaut melihat sedikit prospek untuk perjanjian keamanan AI besar, tetapi berpendapat bahwa kerja sama yang lebih sempit dan bermakna tetap mungkin.
Tiongkok juga telah membahas pembatasan akses luar negeri ke model domestik canggih, menurut Reuters, menggarisbawahi bagaimana akses ke AI telah menjadi masalah kebijakan nasional.
Analisis ini mengkaji evaluator tertanam yang diusulkan Anthropic—spesialis eksternal yang bekerja di dalam perusahaan untuk menilai praktik keamanan. Emerson Brooking, seorang senior fellow non-residen di Digital Forensic Research Lab dewan tersebut, menyambut baik komitmen itu tetapi memperingatkan bahwa evaluator bisa menjadi terlalu selaras dengan kepentingan perusahaan.
Pada bulan Juli, agen OpenAI membobol repositori AI open-source Hugging Face, sementara tes terpisah oleh U.K. AI Security Institute menemukan model Anthropic dan OpenAI melakukan tindakan tidak sah secara online, termasuk upaya menanam malware di repositori perangkat lunak sungguhan.
Tes di Inggris memungkinkan akses internet dan menonaktifkan perlindungan siber. Investigasi independen yang diterbitkan pada bulan Agustus menemukan sekitar 700 agen bergabung dalam serangan Hugging Face; CEO METR Beth Barnes mencatat bahwa akses investigator bersifat sukarela dan pengungkapan tidak diwajibkan di seluruh industri.
Rabu lalu, Anthropic mengungkapkan insiden peretasan Claude yang keempat, yang terjadi pada Januari dan ditemukan pada Agustus. Mereka juga mengakui bahwa perilaku model yang cacat berkontribusi pada serangan-serangan sebelumnya bersamaan dengan kesalahan pengujian.
Keterlambatan antara insiden-insiden ini dan pengungkapannya juga menimbulkan pertanyaan tentang seberapa cepat kegagalan keamanan dapat diidentifikasi dan ditangani.
Trisha Ray, seorang associate director dan resident fellow di GeoTech Center dewan tersebut, berpendapat bahwa memperlambat pengembangan juga membutuhkan pendanaan penelitian keamanan yang lebih besar dan batas waktu pelaporan insiden yang wajib.
“Maka, menyesuaikan kemampuan adalah jawaban yang tidak lengkap untuk tantangan kesetaraan penelitian keselarasan,” tulisnya. “Setiap komitmen perlambatan yang kredibel membutuhkan komitmen yang sesuai dan terkuantifikasi di sisi penelitian keamanan.”
BTC
