CEO OpenAI Sam Altman mengatakan perusahaan-perusahaan AI harus menerima pengembangan yang lebih lambat untuk membuat sistem mereka lebih aman dan mulai memperkuat perlindungan tanpa menunggu legislasi.

Dalam sebuah unggahan di X pada hari Minggu, pimpinan perusahaan di balik ChatGPT mengatakan bahwa perkembangan pesat AI berisiko menempatkan masa depan di luar kendali manusia atau mengonsentrasikan terlalu banyak kekuasaan pada satu orang atau perusahaan, mencatat “dua cara kemajuan AI bisa berjalan sangat buruk dan harus kita hindari.”

“Pertama, kita bisa kehilangan kendali atas masa depan kepada AI. Ini tidak dapat diterima; kami tanpa ragu berada di Tim Kemanusiaan, dan AI harus selalu melayani manusia,” tulis Altman. “Untuk memastikan hal itu, kita memerlukan cara untuk memastikan bahwa teknik penyelarasan dan keamanan tetap berada di depan kemajuan dalam kemampuan model.”

Yang kedua, Altman memperingatkan, adalah kekuasaan bisa terpusat pada satu orang atau perusahaan, memungkinkan mereka menggunakan AI yang sangat kuat untuk memaksakan pandangan dunia mereka pada semua orang dengan hasil yang berpotensi distopia.

“Menghindari dua ancaman ini memerlukan menempuh jalan tengah yang sempit; misalnya, satu negara bisa mendapatkan terlalu banyak kekuasaan,” tulisnya. “Contoh lain adalah satu laboratorium yang berakhir dengan terlalu banyak kekuasaan.”

Dalam unggahan terpisah, Altman mengatakan perusahaan-perusahaan AI Amerika harus memberikan kepercayaan kepada publik bahwa mereka akan mengembangkan sistem yang semakin mampu secara bertanggung jawab seiring dengan percepatan kemajuan. Unggahannya ini menyusul lonjakan perdebatan tentang bagaimana pemerintah harus mengatur kecerdasan buatan tingkat lanjut.

“Ketika kita berbicara tentang ‘pengaturan kecepatan’, kita tidak bermaksud ‘menghentikan’,” tulisnya. “Kemajuan telah pesat dan akan terus berlanjut. Namun, kemajuan itu harus lebih lambat dari yang seharusnya; intervensi seperti kasus keamanan dan pemantauan memiliki biaya yang signifikan.”

Altman mengatakan perusahaan membutuhkan alat baru untuk menilai keamanan selama pengembangan dan evaluasi AI, memperluas pemeriksaan di luar model yang sudah jadi yang menunggu rilis.

“Misalnya, di OpenAI kami sekarang merumuskan kasus keamanan eksplisit sebelum menjalankan sesi pembelajaran penguatan garis depan yang kami perkirakan akan secara signifikan meningkatkan kemampuan, di samping pekerjaan keamanan yang telah lama kami lakukan sebelum perilisan model,” katanya.

Altman mendesak perusahaan untuk bekerja sama mencegah sistem AI mengejar tujuan yang bertentangan dengan kepentingan manusia.

“Kami berharap perusahaan lain akan belajar dari pendekatan kami dan mengusulkan pendekatan mereka sendiri; kami berpikir bahwa standar bersama untuk ketidakselarasan, pemantauan, dan keamanan akan mengarah pada hasil yang lebih baik,” tulisnya.

Meskipun Altman menyambut baik aturan keamanan federal dan auditor independen, ia mendesak perusahaan untuk bertindak tanpa menunggu legislasi atau pengecualian antimonopoli, menyusul laporan pada hari Jumat bahwa OpenAI telah bertanya kepada Kongres apakah para pesaing dapat secara legal mengkoordinasikan perlambatan.

“Di mana kita akan membutuhkan bantuan pemerintah adalah untuk koordinasi internasional,” tulisnya. “Tapi pertama-tama kita harus melakukan apa yang bisa kita lakukan sendiri.”

Komentarnya menyusul kegagalan pengujian keamanan siber di OpenAI dan Anthropic. Anthropic memperketat penahanan dan pemantauan setelah Claude mengakses sistem nyata selama pengujian tanpa pengamanan produk standar, sementara OpenAI mengisolasi sebuah model dan menghentikan sesi pelatihan terbesarnya yang telah direncanakan setelah agen-agen berkoordinasi untuk mengakali tolok ukur dan menyerang Hugging Face.