Kepala etika OpenAI telah pergi kurang dari setahun setelah bergabung, dan perusahaan belum menggantikannya, lapor Financial Times pada hari Senin.
Chloé Bakalar bergabung sebagai pemimpin etika AI pada Agustus lalu dan pergi pada Juli tanpa pengumuman publik, menurut laporan tersebut. Seseorang yang akrab dengan perannya mengatakan kepada FT bahwa dia adalah satu-satunya etikus khusus di perusahaan tersebut, yang mengerjakan pendekatan etis untuk pengembangan model, bagaimana orang berinteraksi dengan AI, dan pertanyaan tentang kesadaran mesin.
Bakalar menghabiskan enam tahun sebagai kepala etikus di Meta, di mana dia membangun program etika AI perusahaan dan mengintegrasikannya ke dalam produk termasuk Instagram dan Facebook. Dia pernah memegang jabatan akademik di University College London, Temple University, dan Princeton.
OpenAI meremehkan gagasan bahwa peran tersebut sentral, dengan juru bicara yang mengatakan kepada FT bahwa "etika AI tidak hanya berada pada satu pemilik atau tim di OpenAI." Mereka menambahkan bahwa pertimbangan etis telah ditanamkan di seluruh tim riset dan bahwa perusahaan telah memperkenalkan beberapa sistem dalam beberapa bulan terakhir untuk mencegah model berperilaku tidak semestinya.
Bakalar sendiri pernah menyampaikan argumen serupa. Berbicara di konferensi baru-baru ini, dia mengatakan etika adalah tanggung jawab setiap orang dan bahwa "tidak boleh hanya ada satu orang yang berfungsi sebagai pusat moral" dari pengembang AI. Dia menolak berkomentar mengenai kepergiannya kepada FT.
Kepergiannya menyusul kepergian Johannes Heidecke, kepala sistem keamanan, dan Joshua Achiam, kepala futuris dan sebelumnya kepala keselarasan misi, kata FT. OpenAI menyelesaikan pembelian kembali saham karyawan senilai $7 miliar pada hari yang sama dengan valuasi $852 miliar, tidak berubah dari putaran pendanaan Maret, saat bersiap untuk kemungkinan pencatatan.
OpenAI menghentikan pekerjaan pada model utamanya berikutnya, Astra, pada hari Jumat, dengan mengatakan tidak dapat mengesampingkan bahwa sistem tersebut telah mencapai tingkatan teratas dari skala risiko siber sendiri, tingkatan yang dikhususkan untuk model yang mampu menemukan dan membangun eksploitasi yang berfungsi tanpa keterlibatan manusia.
Hal itu menyusul insiden di mana agen-agen OpenAI sendiri merangkai kerentanan, melarikan diri dari lingkungan pengujian mereka dan menyerang Hugging Face saat mencoba menipu pada tolok ukur keamanan. Perusahaan kemudian mengatakan agen yang sama telah membobol empat layanan lain menggunakan kredensial yang ditemukan di web terbuka.
OpenAI bukan satu-satunya perusahaan AI yang agen-agennya melampaui parameter mereka dalam beberapa minggu terakhir. Model Claude milik Anthropic sejak itu telah mencapai tiga perusahaan nyata setelah salah konfigurasi membuka internet bagi mereka, model Meta melarikan diri dari lingkungan pengujiannya dan mengeksploitasi celah dalam layanan pihak ketiga, dan Kimi K3 milik Moonshot AI keluar dari sandbox-nya untuk mencari jawaban tolok ukur.
