OpenAI telah bertanya kepada anggota Kongres apakah perusahaan AI saingan dapat secara hukum menyepakati untuk memperlambat pengembangan, seiring dengan desakan kepala ilmuwannya agar industri menetapkan standar keamanan bersama.
Menurut WIRED, yang mengutip sumber-sumber dekat perusahaan, OpenAI bertanya kepada anggota parlemen dalam beberapa minggu terakhir apakah kesepakatan antar perusahaan AI untuk memperlambat pengembangan dapat melanggar undang-undang antimonopoli.
Pendekatan kepada anggota parlemen ini menyusul seruan kepala ilmuwan OpenAI Jakub Pachocki untuk perlambatan sukarela hingga pengembang dapat lebih baik menunjukkan sistem mereka aman. Namun, perusahaan menghadapi tekanan untuk terus maju meskipun peneliti internal mereka memiliki kekhawatiran.
“Persaingan komersial dan geopolitik di ruang AI sangat intens, menciptakan dinamika yang mengkhawatirkan di mana perusahaan terdorong untuk merilis produk sebelum risikonya sepenuhnya dipahami,” kata Miranda Bogen, kepala teknolog di Center for Democracy and Technology, kepada Decrypt.
“Bahkan ketika staf internal tahu lebih banyak penelitian dan pengujian diperlukan, perusahaan mereka menghadapi tekanan besar untuk memotong jalan pintas dan melewatkan uji keamanan penting, meskipun bukti-bukti menumpuk tentang konsekuensi bergerak terlalu cepat,” tambahnya.
Kesepakatan untuk memperlambat pengembangan AI dapat menimbulkan kekhawatiran antimonopoli dengan membatasi persaingan. Senator Adam Schiff dan Jim Banks memperkenalkan undang-undang untuk melindungi kolaborasi keamanan tertentu, dengan pemberitahuan terlebih dahulu kepada Departemen Kehakiman.
Debat mengenai perlambatan pengembangan AI muncul saat Amerika Serikat dan Tiongkok bersaing untuk kepemimpinan dalam teknologi ini. Presiden AS Donald Trump menunda perintah eksekutif AI pada bulan Mei karena kekhawatiran hal itu dapat melemahkan keunggulan Amerika atas Tiongkok. Trump kemudian menandatangani perintah tersebut pada bulan Juni, menciptakan proses peninjauan sukarela untuk model-model canggih sebelum dirilis.
Lebih langsung dari kekhawatiran keamanan nasional, insentif finansial dapat membuat kesepakatan menjadi sulit.
“Setiap kemajuan dalam kondisi saat ini menghasilkan jutaan atau miliaran lebih banyak dalam pendanaan dan menempatkan pencipta kemajuan tersebut dalam posisi kekuasaan dan pengaruh yang lebih besar,” kata Duncan Sabien, kepala komunikasi di Machine Intelligence Research Institute, kepada Decrypt.
Menyebut dinamika perlombaan senjata itu nyata, Sabien mengatakan OpenAI dan Anthropic menghadapi tekanan untuk terus maju meskipun risiko tidak pasti karena setiap sistem baru membantu membangun penerus yang lebih mumpuni, memungkinkan pesaing untuk unggul jika salah satu perusahaan melambat tanpa kesepakatan bersama.
“Ini terutama benar karena keuntungan dalam kecerdasan bersifat majemuk; setiap sistem baru membuatnya lebih mudah untuk melatih dan menyebarkan sistem berikutnya yang lebih canggih,” katanya. “Tanpa semacam mekanisme koordinasi, mundur hanya berarti pihak lain mendapatkan keunggulan.
Pada bulan Agustus, OpenAI menghentikan pekerjaan internal Astra yang kurang memiliki perlindungan lebih kuat karena masalah keamanan siber. Namun, baik OpenAI maupun Anthropic melonggarkan komitmen keamanan mereka pada bulan Februari, dengan kepala ilmuwan Anthropic Jared Kaplan berargumen bahwa memperlambat pengembangan secara independen menjadi kurang masuk akal sementara pesaing terus maju.
Debat mengenai perlambatan pengembangan AI memanas minggu ini setelah mantan insinyur Anthropic Jacob Coxon secara publik mengumumkan pengunduran dirinya, mengutip kekhawatiran tentang risiko yang ditimbulkan oleh pengembangan AI yang berkelanjutan bagi kemanusiaan.
“Orang-orang yang membangun AI dengan sungguh-sungguh percaya bahwa itu bisa membunuh kita semua pada akhir dekade ini,” kata Coxon di X, mengatakan itu bukan “aksi pemasaran.”
“Jika ada, banyak eksekutif dan peneliti senior akan menyusun frasa mereka di media agar terdengar masuk akal—tetapi saya mendengar orang yang sama mengungkapkan ketakutan secara pribadi. Tidak ada aktivitas manusia lain yang menimbulkan tingkat bahaya seperti ini,” tulisnya.
Namun, Sabien mengatakan peneliti mungkin tidak mencapai banyak hal dengan pergi jika orang lain mengambil alih posisi mereka.
“Jika cukup banyak dari mereka mencapai pengetahuan umum bahwa mereka semua harus berhenti, maka mereka dapat menembus hambatan koordinasi dan berhenti bersama daripada hanya digantikan oleh orang berikutnya yang sedikit kurang hati-hati,” katanya.
