Sekjen PBB António Guterres membuka Dialog Global pertama tentang Tata Kelola AI di Jenewa pada hari Senin, memberi tahu 193 negara bahwa AI sudah melampaui lembaga-lembaga yang seharusnya mengaturnya—dan bahwa umat manusia sedang melakukan eksperimen pada dirinya sendiri "tanpa rencana, dan tanpa persetujuan."
"Kecerdasan buatan berkembang dengan kecepatan yang tak terkendali,” kata Guterres dalam pembukaan pidato utamanya. “Teknologi yang dapat membentuk ulang ekonomi, mengubah dunia kerja, memengaruhi pemilihan, dan menggeser keseimbangan keamanan ini diterapkan lebih cepat daripada siapapun—termasuk para pengembangnya—bisa mengikutinya."
Ruangan itu mencakup semua 193 negara anggota PBB, berkumpul di Jenewa pada Dialog Global pertama tentang Tata Kelola AI, sebuah upaya multilateral untuk mengatur teknologi yang sudah melampaui semua orang yang berusaha mengaturnya.
Meme yang digunakan Guterres untuk menjelaskan risiko AI yang tidak diatur adalah vibe coding—istilah yang diciptakan oleh Andrej Karpathy, anggota pendiri OpenAI dan mantan direktur AI di Tesla, untuk menggambarkan pemrograman berdasarkan 'perasaan': beritahu AI apa yang Anda inginkan, biarkan ia mengurus sisanya, jangan terlalu diperiksa. Merriam-Webster baru-baru ini menambahkannya ke kamusnya.
Guterres mengakui vibe coding "bisa menghasilkan keajaiban," seiring semakin banyak orang memercayai produk buatan AI.
"Tapi kita tidak bisa meng-'vibe-code' kebenaran,” katanya. “Kita tidak bisa meng-'vibe-code' masa depan umat manusia."
Angka-angka di balik pernyataan itu tidaklah ringan. Guterres mengatakan internet membutuhkan 15 tahun untuk mencapai satu miliar orang, dan AI hanya dua tahun. Dia menggambarkan sistem saat ini sebagai "bukan lagi alat yang menunggu instruksi—mereka menulis kode, berinteraksi daring, dan membuat pilihan dengan semakin sedikit pengawasan manusia."
"Lembaga-lembaga kita dibangun untuk mengatur mesin yang mengikuti perintah. Mereka belum siap untuk mesin yang mengambil keputusan."
Dialog ini lahir dari Global Digital Compact 2024, yang menetapkan tata kelola AI internasional sebagai mandat PBB untuk pertama kalinya. Sesi pembukaannya dua tahun kemudian juga menerima laporan awal dari Panel Ilmiah Internasional Independen tentang Kecerdasan Buatan—40 ilmuwan dari 140 negara—yang minggu lalu menerbitkan temuan bahwa saat ini tidak ada yang bisa menjamin AI tidak akan menyebabkan kerugian besar.
Kecepatan adalah salah satu dari tiga peringatan yang diambil Guterres dari panel tersebut. Yang kedua adalah kekuatan: komputasi, data, dan talenta yang terkonsentrasi di segelintir perusahaan dan negara, sebagian besar dunia terkunci dari keputusan yang sudah membentuknya, sesuatu yang juga mengkhawatirkan pakar AI lainnya seperti Yann Lecun, Andy Kowinski, dan Yoshua Bengio.
Yang ketiga adalah kebenaran—kebohongan yang dihasilkan mesin kini meyakinkan seefektif fakta terverifikasi, secara bertahap mengikis apa yang Guterres sebut "integritas ekosistem informasi kita."
Anak-anak kelinci percobaan dan robot pembunuh
Di antara proposal konkret Guterres adalah Janji Keselamatan Anak AI yang mengharuskan perusahaan membuktikan keamanan melalui pengujian independen sebelum AI mencapai anak-anak, menjaga nol toleransi terhadap pembuatan gambar pelecehan seksual anak, dan menghubungkan anak-anak yang tertekan dengan dukungan manusia nyata daripada membiarkan mereka sendiri dengan chatbot. "Tidak ada anak yang boleh menjadi kelinci percobaan untuk AI yang tidak diatur."
Dan kemudian ada robot pembunuh. Guterres menyebut senjata otonom mematikan—mesin yang memilih dan membunuh target tanpa penilaian manusia—"secara moral menjijikkan" dan menuntut larangan berdasarkan hukum internasional.
Negara-negara sudah berada di meja diskusi. Dia tidak menyarankan mereka untuk berlama-lama.
Dialog akan dilanjutkan di New York pada tahun 2027. Guterres juga menyerukan kepada Majelis Umum untuk menciptakan Dana Global untuk AI yang berfokus pada akses komputasi bagi negara-negara berkembang, dan menantang setiap perusahaan AI besar untuk menjalankan semua pusat data dengan energi terbarukan pada tahun 2030—tahun di mana ia memperkirakan fasilitas tersebut akan melampaui konsumsi listrik semua negara kecuali lima negara.
