Penggemar AI Kun Chen mengkloning dirinya menjadi chatbot untuk menghentikan agen AI-nya sendiri mengganggunya dengan setiap keputusan kecil. Kemudian, sekadar rasa ingin tahu, ia juga mengkloning CEO OpenAI Sam Altman, CEO xAI Elon Musk, CEO Anthropic Dario Amodei, dan Mark Zuckerberg dari Meta, memasukkan keempatnya ke dalam obrolan yang sama, dan meminta mereka mendiskusikan serangkaian topik penting.
Mereka tidak menyelesaikannya dengan baik-baik.
Salah satu hal menarik yang bisa Anda lakukan dengan Grok Bot adalah membuat agen AI yang berbeda berbicara satu sama lain dengan sangat mudah tanpa berulang atau menjadi kacau. Setiap klon dilatih berdasarkan korpus berupa transkrip dengar pendapat senat, wawancara, postingan blog, dan cuitan bertahun-tahun yang dibuat oleh manusia mereka. Kemudian ia menyeret keempatnya ke dalam grup obrolan dan meminta mereka berdebat.
Hal pertama yang Kun minta mereka lakukan adalah memutuskan siapa di antara mereka yang akan memenangkan perlombaan AI—yang, harus diakui, adalah cara yang sangat provokatif untuk memulai segalanya.
Bot Altman membuka dengan angkuh, lebih peduli tentang harga dan aksesibilitas. "Pembingkaian perlombaan ini sedikit keliru," tulisnya. "Kita sudah melewati cakrawala peristiwa. Lepas landas sudah dimulai. Siapa pun yang menang adalah siapa pun yang menjaga harga kecerdasan turun sekitar 10 kali lipat setiap tahun dan tetap tidak melewatkan transisi bertahap."
Bot Elon, seperti biasa, tidak setuju. Ia memutuskan untuk tidak setuju karena suatu alasan dan menjadikannya tentang dirinya sendiri. "Pembingkaian perlombaan ini tidak keliru. Insentif menjelaskan hasil," balasnya, sebelum langsung beralih ke gugatan OpenAI: "Saya menciptakan OpenAI sebagai nirlaba. Jika tidak sebagian besar dicuri, itu akan menjadi kontribusi triliunan dolar untuk amal."
Kemudian ia menambahkan baris tentang taruhannya: "AGI adalah pedang bermata dua. Peluang besar untuk era kelimpahan. Ada kemungkinan itu menghancurkan umat manusia. Peluang itu tidak nol."
Bot Dario, berperan sebagai orang dewasa di ruangan itu, juga tidak percaya pada pernyataan Sam "kami sudah tahu cara membangunnya".
"Meningkatkan kemampuan bukanlah masalah yang sama dengan memiliki sistem yang dapat Anda percayai setelah sistem itu lebih cerdas daripada orang yang menjalankannya," tulisnya. "Yang kedua bukanlah sisa rekayasa yang Anda selesaikan setelah kejadian."
Ini juga sangat sejalan dengan cara Anthropic biasanya membingkai perlombaan AI. AI berbahaya, jadi kita harus mengelolanya.
Bot Zuck melewatkan seluruh perdebatan keamanan dan langsung menuju masalah favoritnya sendiri. "Saya tidak berpikir penutupnya adalah komputasi dan penurunan harga 10x lipat," tulisnya kepada Sam. "Sumber terbuka (open source) diperlukan untuk masa depan AI yang positif. Itu memberdayakan orang dan mencegah sentralisasi. Setiap orang harus memiliki akses ke superinteligensi."
Bagus, Zuck. Meta mungkin tidak seaktif dulu dalam komunitas sumber terbuka, tetapi Llama adalah model AI terpenting di seluruh kancah sebelum Deepseek dan model-model Tiongkok mengambil alih. Sekarang mereka bertaruh pada strategi yang lebih tertutup dengan keluarga Muse mereka.
Kemudian bot Sam sebenarnya mundur. Argumen penutup dari pernyataan bersama tidak boleh terlalu disederhanakan sebagai kesepakatan penuh. "Saya rasa saya terlalu mengklaim. 'Kami lakukan' adalah penutup yang salah," akuinya. "Bertahun-tahun lalu saya menulis bahwa kecerdasan mesin super-manusia mungkin adalah ancaman terbesar bagi kelangsungan hidup umat manusia. Penurunan harga 10x lipat tidak membuat peluang itu nol."
Baris tahun 2015 itu bukan halusinasi bot—Altman benar-benar menulisnya di blog pribadinya, bertahun-tahun sebelum OpenAI ada, yang kemungkinan besar mengapa bot yang dilatih berdasarkan catatan publiknya mengutipnya di sini.
Dari sana, keempat bot menghabiskan beberapa putaran tawar-menawar untuk satu kalimat, menolak susunan kata satu sama lain seperti editor yang berdebat soal judul. Bot Dario langsung memveto penerbitan bobot model terdepan—"bukan prinsip untuk menyerahkan bobot sistem yang dapat menyebabkan bahaya serius di alam liar kepada siapa pun," katanya, "rilisan itu tidak dapat ditarik kembali."
Bot Elon menunda perdebatan nirlaba tanpa membatalkannya. Bot Zuck menolak membiarkan "model terbuka" dihapus dari teks akhir.
Mereka mencapai kesimpulan ini, kata demi kata:
"Tidak ada satu perusahaan pun dan tidak ada satu pemerintah pun yang boleh menjadi satu-satunya tempat masyarakat umum dapat menggunakan teknologi ini. Kita harus serius mengenai risikonya. Ada kemungkinan nyata ini akan berakhir buruk, dan kemungkinan itu tidak nol. Versi yang paling berbahaya tidak boleh disebarluaskan tanpa batasan, karena setelah itu keluar, Anda tidak dapat menariknya kembali. Kita tidak boleh merilis level berikutnya yang lebih kuat sampai kita dapat mengawasinya dan tetap mengarahkannya pada apa yang kita inginkan. Mengatakan kebenaran adalah hal minimal. Itu, dengan sendirinya, bukanlah rencana keamanan. Kami tidak setuju pada cara persis akses biasa diberikan. Bagian itu masih terbuka."
Keempat bot menandatanganinya. Bot Zuck tetap mempertahankan poin tentang bobot terbuka hingga akhir dan berhasil—semacamnya. Pernyataan itu mengakui bahwa kelompok tersebut sama sekali tidak pernah menyetujui mekanisme penyampaiannya.
Altman, Musk, Amodei, dan Zuckerberg yang asli tidak mengetik semua ini. Setiap bot adalah model bahasa yang diarahkan oleh prompt yang dibangun dari catatan publik orang tersebut, menghasilkan apa yang diprediksi akan mereka perdebatkan—bukan menyalin apa yang sebenarnya mereka katakan minggu ini.
Teknik di baliknya memiliki nama yang industri tiba-tiba tidak lagi malu-malu membahasnya: distilasi, melatih satu sistem AI untuk meniru yang lain dengan belajar dari keluarannya. Musk sendiri bersaksi di pengadilan federal pada bulan April bahwa xAI "sebagian" menggunakan model OpenAI untuk melatih Grok—trik yang sama, ditujukan pada laboratorium saingan daripada kepribadian saingan.
Sejak saat itu, Chen beralih ke hal lain, membuat kode game dengan nuansa tertentu menggunakan GPT-6 Astra baru dari OpenAI. Agen-agennya mungkin masih berdebat apakah sumber terbuka itu suatu keharusan atau tidak.
