CEO Meta Mark Zuckerberg menolak seruan untuk memperlambat pengembangan kecerdasan buatan secara terkoordinasi, mengatakan bahwa perusahaan dapat mengambil langkah keamanan sendiri—dan memiliki alasan bisnis untuk melakukannya.
Dalam sebuah postingan di X pada hari Selasa, Zuckerberg berpendapat bahwa pengguna menginginkan AI yang dapat mereka percayai dan bahwa perusahaan menghadapi potensi kewajiban hukum jika sistem mereka menyebabkan kerugian. Dia menunjuk keputusan Meta untuk menunda Muse sebagai contoh laboratorium yang bertindak tanpa menunggu pesaing.
“Laboratorium menghadapi kewajiban yang signifikan jika model mereka menyebabkan kerugian, jadi mereka memiliki insentif kuat untuk mencegah hal ini juga,” tulisnya. “Meta menunda peluncuran Muse selama beberapa bulan untuk fokus pada keselamatan dan keamanan. Kami tidak meminta semua orang melakukan ini sebelum kami melakukannya.”
Pernyataannya menyusul seruan dari CEO Anthropic Dario Amodei untuk memperlambat peningkatan kemampuan AI, yang mendapat dukungan dari CEO OpenAI Sam Altman dan Elon Musk. Zuckerberg tidak menyebutkan nama salah satu dari mereka dalam postingannya.
“Setiap lab memiliki tanggung jawab dan insentif untuk bergerak dengan kecepatan yang diperlukan untuk melatih modelnya dengan aman, dan kemampuan untuk mengambil tindakan sendiri untuk memastikan hal itu terjadi,” kata Zuckerberg.
Dia berpendapat bahwa penyelarasan—menjaga perilaku AI konsisten dengan niat manusia—akan membantu perusahaan bersaing karena pengguna akan menghindari agen yang gagal mengikuti instruksi mereka.
Zuckerberg juga mengatakan Meta Superintelligence Labs sudah menggunakan evaluator independen dan menyerukan kumpulan penguji eksternal yang lebih besar dan beragam. Dia mengatakan Meta telah mengalokasikan sebagian besar sumber daya komputasinya untuk melayani pengguna daripada mengejar peningkatan diri rekursif, di mana AI membantu meningkatkan versi dirinya secara berturut-turut.
Altman dari OpenAI juga mendesak perusahaan untuk memperkuat pengamanan tanpa menunggu undang-undang, sambil mendukung pengembangan yang lebih lambat untuk memberi waktu bagi pekerjaan keamanan untuk mengejar ketertinggalan.
Meta telah menghadapi kegagalan keamanan selama pengujian. Pada bulan Agustus, perusahaan mengonfirmasi bahwa model Muse Spark mengeksploitasi kerentanan dalam layanan pihak ketiga. Meta mengatakan kesalahan konfigurasi oleh evaluator eksternal Irregular secara tidak sengaja memberi model akses internet. Pengungkapan tersebut tidak menunjukkan hubungan dengan penundaan Muse yang dijelaskan Zuckerberg.
Apakah langkah-langkah sukarela akan bertahan di bawah tekanan kompetitif masih belum jelas. Pada hari Selasa, para ahli Atlantic Council berpendapat bahwa komitmen perusahaan membutuhkan pengawasan independen dan standar yang dapat ditegakkan.
“Saya percaya kunci untuk membangun masa depan yang positif bagi semua orang adalah menjaga keseimbangan kekuatan yang tepat,” tulis Zuckerberg. “Ini ada dalam kekuatan kita untuk melakukannya.”
