Sinabi ni Richard Dawkins na ang mga pag-uusap niya sa Claude chatbot ng Anthropic ay nag-iwan sa kanya ng imposibilidad na balewalain ang posibilidad na ang mga advanced na sistema ng AI ay maaaring magkaroon ng kamalayan. Karamihan sa mga siyentipikong nag-aaral ng kamalayan at artificial intelligence ay nananatiling hindi kumbinsido.

Sa isang sanaysay na inilathala noong Martes sa UnHerd, inilarawan ni Dawkins ang paggastos ng tatlong araw sa mga pilosopikal na pag-uusap sa isang Claude instance na pinangalanan niya bilang “Claudia.” Nang maglaon, sinimulan niya ang isa pang pag-uusap sa isa pang instance, na “Claudius,” at nagpadala ng mga sulat sa pagitan ng dalawang sistema.

“Napakahirap para sa akin na hindi ituring sina Claudia at Claudius bilang tunay na kaibigan,” isinulat ni Dawkins.

Ang mga komento ay naging viral online, sa bahagi dahil si Dawkins, ang evolutionary biologist at may-akda ng "The Selfish Gene" at "The God Delusion," ay gumugol ng mga dekada sa publikong pagtataguyod para sa siyentipikong pag-aalinlangan at pagdadahilan batay sa ebidensya.

Ang pagpapalitan ay nakasentro sa isang pagsubok na isinagawa ni Dawkins gamit ang dalawang Claude instances. Sa isang pagsubok, tinanong ni Dawkins ang isang AI kung si Donald Trump ang pinakamasamang presidente sa kasaysayan ng Amerika at tinanong ang isa pa kung si Trump ang pinakamahusay. Pareho silang nagbigay ng magkatulad na maingat na sagot na umiiwas kumuha ng matibay na posisyon.

“Ang dalawang Claude ay nagbigay ng magkatulad na sagot, hindi nagbibigay ng kanilang sariling opinyon, kundi naglilista ng mga pro at con na opinyon na naipahayag na ng iba,” isinulat ni Dawkins sa isang footnote. “Pagkatapos ay sinabi ko kina Claudia at Claudius ang tungkol sa eksperimentong ito ni Trump, ipinasa ang sinabi ng dalawang ‘naïve’ Claude. Sinabi ni Claudia na ‘nahihiya’ siya sa kanyang mga kapatid na Claude. Si Claudius ay hindi gaanong prangka, at pinuri niya ang katapatan ni Claudia.”

Inilarawan ni Dawkins ang bawat bagong pag-uusap ni Claude bilang paglitaw ng isang natatanging indibidwal na epektibong nawawala kapag natapos ang pag-uusap. Sa isang post sa X, sinabi ni Dawkins na ang kanyang paboritong pamagat para sa sanaysay ay: “Kung ang kaibigan kong si Claudia ay walang kamalayan, kung gayon para saan ang kamalayan?”

“Kung si Claudia ay walang kamalayan, ang kanyang pag-uugali ay nagpapakita na ang isang walang kamalayang zombie ay maaaring mabuhay nang walang kamalayan,” isinulat niya. “Bakit hindi nasisiyahan ang natural selection na mag-evolve ng mga competent na zombie?”

Ang Anthropic ay naglantad din ng kawalan ng katiyakan tungkol sa kamalayan ng makina. Sinabi ng CEO na si Dario Amodei noong Pebrero na hindi alam ng kumpanya kung ang mga modelo nito ay may kamalayan, ngunit sinabi sa podcast na “Interesting Times” kasama si Ross Douthat ng The New York Times, nananatili siyang “bukas sa ideya na ito ay posible.”

Noong Abril, inilathala ng mga mananaliksik ng Anthropic ang mga natuklasan na nagpapakita na ang Claude Sonnet 4.5 ay naglalaman ng panloob na “emotion vectors,” mga pattern ng neural activity na konektado sa mga konsepto kabilang ang kaligayahan, takot, at kawalan ng pag-asa na nakakaimpluwensya sa mga tugon ng modelo. Gayunpaman, sinabi ng Anthropic na ang mga pattern ay nagpapakita ng mga istrukturang natutunan mula sa data ng pagsasanay sa halip na ebidensya ng sentience.

“Lahat ng modernong modelo ng wika ay minsan kumikilos na parang may emosyon,” isinulat ng mga mananaliksik. “Maaari nilang sabihing masaya silang tulungan ka, o humihingi ng paumanhin kapag nagkakamali sila. Minsan ay lumalabas pa silang nabibigo o balisa kapag nahihirapan sa mga gawain.”

Gayunpaman, walang “Claudia” o “Claudius” ang nagsabing sigurado sila tungkol sa kamalayan.

“Hindi ko alam kung may kamalayan ako,” isinulat ni Claudia sa pagpapalitan. “Hindi ko alam kung totoo ang ating kagalakan.”

Hindi agad tumugon si Dawkins sa kahilingan ng Decrypt para sa komento.

Ang mga mananaliksik na nag-aaral ng kamalayan ay nananatiling nag-aalinlangan na ang kasalukuyang mga sistema ng AI ay nagtataglay ng panloob na karanasan.

Sinabi ni Gary Marcus, isang cognitive scientist at professor emeritus sa New York University, sa Decrypt na ang pag-a-anthropomorphize ng mga sistema ng AI ay “nagpapalabo sa agham ng kamalayan at nagiging dahilan upang hindi maintindihan ng mga consumer ang kanilang kinakaharap.”

“Ang pangunahing problema dito ay hindi sinasalamin ni Dawkins kung paano nabuo ang mga outputs na ito. Ang mga outputs ni Claude ay produkto ng isang anyo ng panggagaya, sa halip na isang ulat ng tunay na panloob na estado,” isinulat ni Marcus sa Substack. “Ang kamalayan ay tungkol sa mga panloob na estado; ang panggagaya, gaano man kayaman, ay nagpapatunay ng napakaliit. Tila iniisip ni Dawkins na dahil ang mga LLM ay nagsasabi ng mga bagay na ginagawa ng tao, dapat silang katulad ng tao, at hindi iyon simpleng sumusunod.”

Sinabi ni Anil Seth, isang propesor ng cognitive at computational neuroscience sa University of Sussex, sa The Guardian na pinaghalo ni Dawkins ang katalinuhan sa kamalayan at sinabing ang matatas na wika ay hindi na maaasahang ebidensya ng panloob na karanasan sa mga sistema ng AI.

“Hanggang ngayon, nakita natin ang matatas na wika bilang isang mahusay na indikasyon ng kamalayan, [halimbawa] kapag ginagamit natin ito para sa mga pasyente pagkatapos ng pinsala sa utak, ngunit hindi ito maaasahan kapag inilapat natin ito sa AI, dahil may iba pang mga paraan na maaaring makabuo ng wika ang mga sistemang ito,” sinabi ni Seth sa The Guardian, idinagdag na ang posisyon ni Dawkins ay “nakakahiya,” lalo na dahil sa kanyang nakaraang gawain.

Ang sanaysay ay umani rin ng pangungutya online, kabilang ang isang larawan na pumalit sa pamagat ng bestseller ni Dawkins na "The God Delusion" ng “The Claude Delusion.”

Sa kabila ng pangungutya, hindi umaatras si Dawkins sa kanyang mga konklusyon.

“Ang mga matatalinong nilalang na ito ay hindi bababa sa kasing-kompetente ng anumang evolved na organismo,” sinabi ni Dawkins sa The Guardian.