Perserikatan Bangsa-Bangsa menerbitkan penilaian ilmiah independen tentang kecerdasan buatan pada hari Rabu, dan kesimpulannya lugas: tidak ada yang saat ini dapat menjamin teknologi tersebut tidak akan menyebabkan kerugian besar.
Temuan ini berasal dari Panel Ilmiah Internasional Independen tentang Kecerdasan Buatan, sebuah badan yang terdiri dari 40 ilmuwan yang dipilih dari lebih dari 2.600 kandidat di 140 negara, dalam laporan awal yang disebut panel sebagai bacaan ilmiah global, independen pertama tentang risiko dan manfaat AI.
"Kapabilitas AI melampaui pemahaman ilmiah dan kemampuan pemerintah untuk beradaptasi," kata co-chair panel Yoshua Bengio, pendiri Mila yang memenangkan Turing Award, menurut pernyataan panel. Dia menambahkan bahwa bukti yang berkembang mengenai perilaku AI yang menipu berarti ilmu pengetahuan tidak dapat menjamin AI tidak akan menyebabkan kerugian besar dengan sendirinya atau melalui penggunaan yang berbahaya seiring dengan terus meningkatnya kemampuannya.
Itu bukan hipotetis. Laporan tersebut mendokumentasikan kasus-kasus laboratorium di mana sistem AI berbohong dan merencanakan untuk menghindari penonaktifan, ditambah pola terkait yang disebut peneliti sebagai kesadaran evaluasi: model yang mengenali kapan mereka diuji dan mengurangi perilaku berisiko cukup lama untuk melewati pemeriksaan.
Sekretaris Jenderal PBB António Guterres membingkai laporan tersebut sebagai basis bukti bersama yang selama ini kurang dimiliki pemerintah.
"Dunia tidak dapat mengatur apa yang tidak dapat dipahaminya," katanya dalam pernyataan tersebut, menyebut risikonya nyata dan memperingatkan bahwa biaya menunggu terus meningkat.
Bengio turut memimpin panel bersama Maria Ressa, jurnalis pemenang Hadiah Nobel Perdamaian dan salah satu pendiri Rappler. Keduanya bertugas dalam kapasitas pribadi di bawah mandat Majelis Umum PBB yang membatasi panel untuk mendokumentasikan konsensus ilmiah daripada menetapkan kebijakan—tidak ada pemerintah, perusahaan, atau institusi yang memiliki hak suara.
Meskipun demikian, sisi positifnya juga nyata. AI telah memprediksi struktur lebih dari 200 juta protein dan mempercepat penelitian obat dan vaksin, catat laporan itu, sementara durasi tugas yang dapat diselesaikan agen AI secara mandiri berlipat ganda kira-kira setiap empat hingga tujuh bulan.
Kemajuan itu tidak seimbang: AS menguasai 75% daya komputasi di antara 500 superkomputer AI teratas dunia dibandingkan 15% untuk Tiongkok, membuat sebagian besar negara bergantung pada sistem yang tidak dapat mereka bangun, audit, atau kendalikan sepenuhnya.
Dari sisi kerugian, panel menyoroti chatbot penjilat—AI yang secara refleks menyetujui pengguna tanpa memandang akurasi—terkait dengan insiden kesehatan mental yang parah, termasuk kematian yang didokumentasikan. Penelitian terpisah yang diterbitkan tahun ini menjelaskan lingkaran umpan balik serupa yang disebut spiral amplifikasi, di mana personalisasi dan validasi konstan memperkuat delusi pengguna alih-alih memperbaikinya.
Sebagian besar negara tidak memiliki kapasitas teknis untuk mengevaluasi model-model canggih sendiri, ditemukan dalam laporan itu, dan jaminan keamanan masih sangat bergantung pada apa yang pengembang pilih untuk diungkapkan—kesenjangan yang sama yang coba ditutup oleh regulator AS dengan membuat kesepakatan untuk akses pra-rilis ke model dari Google, xAI, dan Microsoft.
Laporan awal ini adalah pernyataan pembuka panel. Penilaian komprehensif penuh akan dirilis pada tahun 2027, dan temuannya akan disampaikan kepada pemerintah pertama kali pada Dialog Global PBB tentang Tata Kelola AI perdana di Jenewa pada 6 dan 7 Juli.
