Institut Cato yang libertarian memperingatkan bahwa jeda yang diamanatkan pemerintah dalam pengembangan kecerdasan buatan dapat melindungi perusahaan-perusahaan dominan dari persaingan dan menunda teknologi yang bermanfaat, saat anggota parlemen dan eksekutif AI mendorong pembatasan.
Dalam unggahan blog pada hari Senin, Jennifer Huddleston, seorang cendekiawan kebijakan teknologi di lembaga pemikir tersebut, berpendapat bahwa perusahaan dapat mengatasi bahaya spesifik melalui pengamanan sukarela dan standar bersama tanpa menghentikan pengembangan di seluruh industri.
“Jeda yang diamanatkan pemerintah akan menimbulkan beberapa kekhawatiran, dan kemungkinan gagal memenuhi peningkatan keamanan yang diklaimnya,” tulisnya, menambahkan bahwa aturan pemerintah lambat dibuat dan lebih lambat diubah. “Kerangka peraturan yang dibangun untuk model-model saat ini dapat secara aktif menghambat model-model di masa depan, mencegah apa yang bisa menjadi respons yang lebih baik atau lebih aman.”
Huddleston mengakui risiko AI tetapi memperingatkan bahwa aturan yang dibentuk di sekitar pengembang terkemuka dapat membantu mereka mengonsolidasikan kekuasaan dan membatasi persaingan—sebuah bentuk penguasaan pasar yang akan mempersulit perusahaan kecil untuk bersaing. Dia juga berpendapat bahwa menjeda pengembangan di AS dapat melemahkan pertahanan keamanan siber sementara pesaing asing terus maju.
Komentarnya menyusul proposal dari Senator Bernie Sanders dan Perwakilan Greg Casar untuk menjeda pengembangan AI tingkat lanjut hingga standar keamanan federal ditetapkan dan melarang secara permanen kecerdasan buatan super, sementara CEO OpenAI Sam Altman telah mendukung pengembangan yang lebih lambat dan mendesak perusahaan untuk memperkuat pengamanan tanpa menunggu aturan federal yang dia dukung.
“Banyak dari seruan ini disertai dengan skenario kiamat ala fiksi ilmiah tentang hal terburuk yang bisa terjadi,” tulis Huddleston. “Namun, tergesa-gesa untuk mengatur karena ketakutan bisa memiliki konsekuensi negatif jangka panjang daripada risiko yang diklaimnya akan diatasi.”
Ketua dan salah satu pendiri Block, Jack Dorsey, menyuarakan kekhawatiran serupa mengenai persaingan dalam unggahan di X pada hari Senin.
“Perusahaan-perusahaan yang memimpin kecerdasan mesin patut didengar. Mereka memiliki keahlian dan kepentingan komersial untuk dilindungi,” tulis Dorsey. “Aturan yang dibangun di sekitar sumber daya mereka bisa membuat mereka satu-satunya yang mampu berpartisipasi. Kekhawatiran tulus tentang keamanan tetap dapat menciptakan hambatan masuk.”
Dorsey mengatakan dia mendukung rilis terbuka yang dapat diperiksa, dimodifikasi, dan diuji oleh para peneliti, dengan evaluasi dan batasan yang diketahui dipublikasikan agar pihak luar dapat menantang klaim keamanan pengembang.
“Saya mendukung pengawasan. Saya menentang batasan di seluruh industri yang dinegosiasikan oleh para pemimpin saat ini karena mereka bisa mengeluarkan orang-orang yang mungkin mengungkap kegagalan atau membangun alternatif,” tulisnya. “Melestarikan keuntungan komersial perusahaan bukanlah tujuan keamanan.”
Dalam unggahannya, Dorsey juga mengatakan dia mendukung pengujian independen dan penegakan hukum yang akuntabel secara publik, termasuk menahan model ketika bukti menunjukkan perilisan mereka secara material akan meningkatkan risiko bencana yang tidak dapat diatasi secara memadai oleh langkah-langkah yang lebih sempit.
“Komputasi dapat memicu pengawasan tanpa membatasi pengembangan. Pemeriksaan bukanlah izin dari regulator atau pesaing,” katanya. “Saya tidak ingin persyaratan persetujuan umum atau periode tunggu. Setiap penundaan publikasi berbasis keamanan yang diberlakukan harus dibenarkan oleh pengecualian risiko bencana.”
Analisis terbaru dari Atlantic Council berpendapat bahwa tekanan kompetitif menuntut standar keamanan AI yang dapat ditegakkan, sementara ketidakpercayaan AS-Tiongkok mempersulit perjanjian internasional. Kerja sama juga menimbulkan kekhawatiran antimonopoli: OpenAI telah bertanya kepada anggota parlemen apakah pengembang saingan dapat secara hukum menyetujui untuk memperlambat pengembangan.
