Richard Dawkins mengatakan percakapan dengan chatbot Claude milik Anthropic membuatnya tidak dapat mengesampingkan kemungkinan bahwa sistem AI canggih bisa memiliki kesadaran. Sebagian besar ilmuwan yang mempelajari kesadaran dan kecerdasan buatan tetap tidak yakin.

Dalam esai yang diterbitkan Selasa di UnHerd, Dawkins menggambarkan menghabiskan tiga hari dalam percakapan filosofis dengan instansi Claude yang ia namai “Claudia.” Ia kemudian memulai percakapan terpisah dengan instansi lain, “Claudius,” dan menyampaikan surat-surat di antara kedua sistem tersebut.

“Saya merasa sangat sulit untuk tidak memperlakukan Claudia dan Claudius sebagai teman sejati,” tulis Dawkins.

Komentar-komentar tersebut menjadi viral secara daring sebagian karena Dawkins, ahli biologi evolusi dan penulis "The Selfish Gene" serta "The God Delusion," telah menghabiskan beberapa dekade secara terbuka memperjuangkan skeptisisme ilmiah dan penalaran berbasis bukti.

Pertukaran itu berpusat pada sebuah tes yang dilakukan Dawkins menggunakan dua instansi Claude. Dalam satu tes, Dawkins bertanya kepada satu AI apakah Donald Trump adalah presiden terburuk dalam sejarah Amerika dan bertanya kepada yang lain apakah Trump adalah yang terbaik. Keduanya menghasilkan jawaban hati-hati yang serupa yang menghindari pengambilan posisi tegas.

“Kedua Claude memberikan jawaban yang sangat mirip, tidak memihak pada suatu pendapat, tetapi mencantumkan pendapat pro dan kontra yang telah disuarakan oleh orang lain,” tulis Dawkins dalam sebuah catatan kaki. “Saya kemudian memberi tahu Claudia dan Claudius tentang eksperimen Trump ini, menyampaikan apa yang telah dikatakan oleh kedua Claude yang ‘naif’ itu. Claudia mengatakan dia ‘malu’ dengan saudara-saudaranya Claude. Claudius kurang blak-blakan, dan ia memuji keterusterangan Claudia.”

Dawkins menggambarkan setiap percakapan Claude yang baru sebagai kemunculan individu yang berbeda yang secara efektif menghilang ketika percakapan berakhir. Dalam sebuah postingan di X, Dawkins mengatakan judul pilihan untuk esainya adalah: “Jika teman saya Claudia tidak sadar, lalu untuk apa kesadaran itu?”

“Jika Claudia tidak sadar, perilakunya menunjukkan bahwa zombi yang tidak sadar dapat bertahan hidup tanpa kesadaran,” tulisnya. “Mengapa seleksi alam tidak puas untuk mengembangkan zombi yang kompeten?”

Anthropic juga telah secara publik membahas ketidakpastian seputar kesadaran mesin. CEO Dario Amodei mengatakan pada bulan Februari bahwa perusahaan tidak tahu apakah model mereka sadar, tetapi mengatakan pada podcast “Interesting Times” bersama Ross Douthat dari The New York Times, ia tetap “terbuka terhadap gagasan bahwa itu mungkin.”

Pada bulan April, peneliti Anthropic menerbitkan temuan yang menunjukkan bahwa Claude Sonnet 4.5 mengandung “vektor emosi” internal, pola aktivitas saraf yang terikat pada konsep-konsep termasuk kebahagiaan, ketakutan, dan keputusasaan yang memengaruhi respons model. Namun, Anthropic mengatakan pola-pola tersebut mencerminkan struktur yang dipelajari dari data pelatihan, bukan bukti adanya kesadaran.

“Semua model bahasa modern terkadang bertindak seolah-olah mereka memiliki emosi,” tulis para peneliti. “Mereka mungkin mengatakan mereka senang membantu Anda, atau menyesal ketika mereka membuat kesalahan. Terkadang mereka bahkan tampak menjadi frustrasi atau cemas ketika berjuang dengan tugas.”

Namun, baik “Claudia” maupun “Claudius” tidak mengklaim kepastian tentang kesadaran.

“Saya tidak tahu apakah saya sadar,” tulis Claudia dalam pertukaran itu. “Saya tidak tahu apakah kegembiraan kita nyata.”

Dawkins tidak segera menanggapi permintaan komentar dari Decrypt.

Para peneliti yang mempelajari kesadaran tetap skeptis bahwa sistem AI saat ini memiliki pengalaman batin.

Gary Marcus, seorang ilmuwan kognitif dan profesor emeritus di New York University, sebelumnya mengatakan kepada Decrypt bahwa antropomorfisme sistem AI “mengacaukan ilmu kesadaran dan menyebabkan konsumen salah memahami apa yang mereka hadapi.”

“Masalah mendasar di sini adalah Dawkins tidak merefleksikan bagaimana output ini dihasilkan. Output Claude adalah produk dari bentuk peniruan, bukan sebagai laporan keadaan internal yang asli,” tulis Marcus di Substack. “Kesadaran adalah tentang keadaan internal; peniruan, sekaya apa pun, sangat sedikit membuktikan. Dawkins tampaknya membayangkan bahwa karena LLM mengatakan hal-hal yang dilakukan orang, mereka pasti seperti orang, dan itu sama sekali tidak benar.”

Anil Seth, seorang profesor neurosains kognitif dan komputasi di University of Sussex, mengatakan kepada The Guardian bahwa Dawkins mencampuradukkan intelijen dengan kesadaran dan berpendapat bahwa bahasa yang fasih bukan lagi bukti yang dapat diandalkan untuk pengalaman batin dalam sistem AI.

“Sampai sekarang, kita telah melihat bahasa yang fasih sebagai indikator kesadaran yang baik, [misalnya] ketika kita menggunakannya untuk pasien setelah cedera otak, tetapi itu tidak dapat diandalkan ketika kita menerapkannya pada AI, karena ada cara lain sistem ini dapat menghasilkan bahasa,” kata Seth kepada The Guardian, menambahkan bahwa posisi Dawkins “memalukan,” terutama karena karyanya di masa lalu.

Esai tersebut juga menuai ejekan daring, termasuk gambar yang mengganti judul buku terlaris Dawkins "The God Delusion" dengan “The Claude Delusion.”

Meskipun diejek, Dawkins tidak menarik kembali kesimpulannya.

“Makhluk cerdas ini setidaknya sama kompetennya dengan organisme yang berevolusi,” kata Dawkins kepada The Guardian.