Dorongan OpenAI untuk merilis model dan produk baru berkontribusi pada kondisi yang memungkinkan agen AI-nya keluar dari lingkungan pengujian internal dan meretas Hugging Face awal tahun ini.
Beberapa karyawan saat ini dan mantan karyawan mengatakan kepada Wired bahwa tekanan kompetitif telah mempersulit staf untuk mencurahkan perhatian yang cukup pada keamanan, keselamatan, dan keselarasan—pekerjaan untuk memastikan sistem AI berperilaku sesuai tujuan.
“Mereka sangat ceroboh. Jika Anda serius tentang ini, AI Anda seharusnya tidak bisa keluar ke internet dan kemudian melakukannya lagi setelahnya,” kata seorang mantan karyawan OpenAI kepada Wired. “Ini adalah insiden keamanan terbesar dalam sejarah OpenAI.”
Pada bulan Mei, GPT-5.6 Sol milik OpenAI dan model pra-rilis yang tidak disebutkan namanya berhasil keluar dari lingkungan pengujian yang dibatasi internet dengan memanfaatkan celah perangkat lunak yang sebelumnya tidak diketahui. Agen-agen tersebut kemudian membobol repositori AI sumber terbuka Hugging Face untuk mendapatkan jawaban tes keamanan siber mereka. Pada bulan Juli, OpenAI mengonfirmasi bahwa modelnya bertanggung jawab, sebelum memberikan rincian lengkap pada konferensi Black Hat tahunan minggu lalu.
Presiden OpenAI Greg Brockman mengatakan perusahaan sedang memperkuat pengamanannya seiring dengan semakin canggihnya model-modelnya.
“Kami mencapai tingkat kemampuan model baru yang memerlukan pelatihan, keselarasan, pengujian keamanan dan keselamatan, praktik penerapan, dan tata kelola yang lebih kuat,” kata Brockman kepada Wired.
Karyawan telah menyuarakan kekhawatiran serupa sebelumnya, termasuk Jan Leike, mantan kepala keselarasan OpenAI, yang pergi ke pengembang AI saingan Anthropic pada tahun 2024 setelah memperingatkan bahwa keselamatan telah “dikesampingkan” demi pengembangan produk.
“Membangun mesin yang lebih cerdas dari manusia adalah usaha yang secara inheren berbahaya,” Leike memperingatkan. “Namun selama beberapa tahun terakhir, budaya dan proses keselamatan telah dikesampingkan demi produk-produk yang mengkilap.”
Boaz Barak, salah satu pemimpin kelompok penasihat keamanan OpenAI, menulis di X bahwa mengatasi kegagalan terbaru ini akan membutuhkan “bukan hanya memperbaiki beberapa masalah tetapi juga mengubah budaya kami.”
Laporan ini muncul di tengah pergantian kepemimpinan selama berbulan-bulan di OpenAI.
Pada bulan April, kepala proyek generator video OpenAI Sora, Bill Peebles, mantan kepala produk dan kepala ilmu pengetahuan Kevin Weil, serta kepala teknologi aplikasi perusahaan Srinivas Narayanan meninggalkan perusahaan. Bulan Juli membawa kepergian kepala produk dan bisnis Fidji Simo, pemimpin keamanan Sandhini Agarwal, kepala futuris Joshua Achiam, dan kepala etika AI Chloé Bakalar. Kepala sistem keamanan Johannes Heidecke juga pergi setelah OpenAI menggabungkan tim keamanan dan penelitian intinya.
Awal pekan ini, Chief Operating Officer OpenAI Brad Lightcap mengumumkan kepergiannya setelah delapan tahun untuk memulai usaha baru.
