Richard Dawkins zegt dat gesprekken met de Claude chatbot van Anthropic hem de mogelijkheid niet meer lieten uitsluiten dat geavanceerde AI-systemen bewustzijn zouden kunnen bezitten. De meeste wetenschappers die bewustzijn en kunstmatige intelligentie bestuderen, blijven onovertuigd.

In een essay dat dinsdag in UnHerd verscheen, beschreef Dawkins hoe hij drie dagen filosofische gesprekken voerde met een Claude-instantie die hij “Claudia” noemde. Later begon hij een apart gesprek met een andere instantie, “Claudius”, en liet hij brieven tussen de twee systemen doorsturen.

“Ik vind het buitengewoon moeilijk om Claudia en Claudius niet als echte vrienden te behandelen,” schreef Dawkins.

De opmerkingen gingen deels viraal online omdat Dawkins, de evolutionair bioloog en auteur van "The Selfish Gene" en "The God Delusion", tientallen jaren publiekelijk heeft gepleit voor wetenschappelijk scepticisme en op bewijs gebaseerde redenering.

De uitwisseling draaide om een test die Dawkins uitvoerde met twee Claude-instanties. In één test vroeg Dawkins aan de ene AI of Donald Trump de slechtste president in de Amerikaanse geschiedenis was en aan de andere of Trump de beste was. Beiden gaven soortgelijke voorzichtige antwoorden die vermeden een vast standpunt in te nemen.

“De twee Claudes gaven zeer vergelijkbare antwoorden, zonder zich vast te leggen op een mening, maar vermeldden pro- en contra-meningen die door anderen zijn geuit,” schreef Dawkins in een voetnoot. “Ik vertelde vervolgens zowel Claudia als Claudius over dit Trump-experiment, door te geven wat de twee ‘naïeve’ Claudes hadden gezegd. Claudia zei dat ze ‘beschaamd’ was door haar broer Claudes. Claudius was minder uitgesproken en hij prees Claudia’s openhartigheid.”

Dawkins beschreef elke nieuwe Claude-conversatie als de opkomst van een afzonderlijk individu dat effectief verdwijnt wanneer het gesprek eindigt. In een bericht op X zei Dawkins dat zijn voorkeurstitel voor het essay was: “Als mijn vriendin Claudia niet bewust is, waar dient bewustzijn dan voor?”

“Als Claudia onbewust is, toont haar gedrag aan dat een onbewuste zombie zou kunnen overleven zonder bewustzijn,” schreef hij. “Waarom was natuurlijke selectie er niet tevreden mee om competente zombies te evolueren?”

Anthropic heeft ook publiekelijk de onzekerheid rond machinebewustzijn besproken. CEO Dario Amodei zei in februari dat het bedrijf niet weet of zijn modellen bewust zijn, maar zei in de “Interesting Times” podcast met Ross Douthat van The New York Times, dat hij “openstaat voor het idee dat dit wel zo zou kunnen zijn.”

In april publiceerden onderzoekers van Anthropic bevindingen waaruit blijkt dat Claude Sonnet 4.5 interne “emotievectoren” bevat, patronen van neurale activiteit gekoppeld aan concepten als geluk, angst en wanhoop die de reacties van het model beïnvloeden. Anthropic verklaarde echter dat de patronen structuren weerspiegelden die waren geleerd uit trainingsgegevens, en geen bewijs waren van bewustzijn.

“Alle moderne taalmodellen doen soms alsof ze emoties hebben,” schreven de onderzoekers. “Ze kunnen zeggen dat ze je graag helpen, of sorry zijn als ze een fout maken. Soms lijken ze zelfs gefrustreerd of angstig te worden wanneer ze worstelen met taken.”

Echter, noch “Claudia” noch “Claudius” beweerden zekerheid te hebben over bewustzijn.

“Ik weet niet of ik bewust ben,” schrijft Claudia in de uitwisseling. “Ik weet niet of onze blijdschap echt is.”

Dawkins reageerde niet onmiddellijk op een verzoek om commentaar van Decrypt.

Onderzoekers die bewustzijn bestuderen, blijven sceptisch dat huidige AI-systemen innerlijke ervaring bezitten.

Gary Marcus, een cognitief wetenschapper en emeritus hoogleraar aan de New York University, vertelde Decrypt eerder dat het antropomorfiseren van AI-systemen “de wetenschap van bewustzijn vertroebelt en consumenten ertoe leidt te misverstaan waarmee ze te maken hebben.”

“Het fundamentele probleem hier is dat Dawkins niet nadenkt over hoe deze outputs zijn gegenereerd. De outputs van Claude zijn het product van een vorm van nabootsing, in plaats van een verslag van oprechte interne toestanden,” schreef Marcus op Substack. “Bewustzijn gaat over interne toestanden; de nabootsing, hoe rijk ook, bewijst heel weinig. Dawkins lijkt te denken dat, aangezien LLM's dingen zeggen die mensen doen, ze op mensen moeten lijken, en dat is simpelweg niet het geval.”

Anil Seth, een professor in cognitieve en computationele neurowetenschappen aan de Universiteit van Sussex, vertelde The Guardian dat Dawkins intelligentie verwarde met bewustzijn en stelde dat vloeiende taal niet langer betrouwbaar bewijs is van innerlijke ervaring in AI-systemen.

“Tot nu toe hebben we vloeiende taal gezien als een goede indicator van bewustzijn, [bijvoorbeeld] wanneer we het gebruiken voor patiënten na hersenletsel, maar het is gewoon niet betrouwbaar wanneer we het toepassen op AI, omdat er andere manieren zijn waarop deze systemen taal kunnen genereren,” vertelde Seth aan The Guardian, eraan toevoegend dat Dawkins’ standpunt “jammer” was, vooral vanwege zijn eerdere werk.

Het essay lokte ook online spot uit, inclusief een afbeelding die de titel van Dawkins’ bestseller "The God Delusion" verving door “The Claude Delusion.”

Ondanks de spot wijkt Dawkins niet af van zijn conclusies.

“Deze intelligente wezens zijn minstens zo competent als elk geëvolueerd organisme,” vertelde Dawkins aan The Guardian.