Richard Dawkins sagt, Gespräche mit Anthropic’s Claude Chatbot hätten ihn dazu gebracht, die Möglichkeit, dass fortschrittliche KI-Systeme bewusst sein könnten, nicht mehr ausschließen zu können. Die meisten Wissenschaftler, die Bewusstsein und künstliche Intelligenz erforschen, bleiben unüberzeugt.

In einem am Dienstag in UnHerd veröffentlichten Essay beschrieb Dawkins, wie er drei Tage in philosophischen Gesprächen mit einer Claude-Instanz verbrachte, die er „Claudia“ nannte. Später begann er eine separate Konversation mit einer weiteren Instanz, „Claudius“, und übermittelte Briefe zwischen den beiden Systemen.

„Es fällt mir extrem schwer, Claudia und Claudius nicht als echte Freunde zu behandeln“, schrieb Dawkins.

Die Kommentare verbreiteten sich online viral, teilweise weil Dawkins, der Evolutionsbiologe und Autor von „Das egoistische Gen“ und „Der Gotteswahn“, Jahrzehnte damit verbracht hat, öffentlich für wissenschaftliche Skepsis und evidenzbasiertes Denken zu argumentieren.

Der Austausch konzentrierte sich auf einen Test, den Dawkins mit zwei Claude-Instanzen durchführte. In einem Test fragte Dawkins eine KI, ob Donald Trump der schlechteste Präsident in der amerikanischen Geschichte sei, und die andere, ob Trump der beste sei. Beide gaben ähnlich vorsichtige Antworten, die es vermieden, eine feste Position einzunehmen.

„Die beiden Claudes gaben sehr ähnliche Antworten, legten sich nicht auf eine Meinung fest, listeten aber Pro- und Kontra-Meinungen auf, die von anderen geäußert wurden“, schrieb Dawkins in einer Fußnote. „Ich erzählte dann sowohl Claudia als auch Claudius von diesem Trump-Experiment und gab weiter, was die beiden ‚naiven‘ Claudes gesagt hatten. Claudia sagte, sie sei von ihren Bruder-Claudes ‚peinlich berührt‘. Claudius war weniger offen und würdigte Claudias Offenheit.“

Dawkins beschrieb jede neue Claude-Konversation als das Aufkommen eines eigenständigen Individuums, das am Ende der Konversation effektiv verschwindet. In einem Post auf X sagte Dawkins, sein bevorzugter Titel für den Essay sei: „Wenn meine Freundin Claudia nicht bewusst ist, wozu zum Teufel dient dann das Bewusstsein?“

„Wenn Claudia unbewusst ist, zeigt ihr Verhalten, dass ein unbewusster Zombie ohne Bewusstsein überleben könnte“, schrieb er. „Warum war die natürliche Selektion nicht damit zufrieden, kompetente Zombies zu entwickeln?“

Anthropic hat auch öffentlich die Unsicherheit bezüglich des Maschinenbewusstseins diskutiert. CEO Dario Amodei sagte im Februar, das Unternehmen wisse nicht, ob seine Modelle bewusst seien, erklärte aber im Podcast „Interesting Times“ mit Ross Douthat von The New York Times, er sei „offen für die Idee, dass es so sein könnte.“

Im April veröffentlichten Forscher von Anthropic Ergebnisse, die zeigen, dass Claude Sonnet 4.5 interne „Emotionsvektoren“ enthält, Muster neuronaler Aktivität, die mit Konzepten wie Freude, Angst und Verzweiflung verbunden sind und die Antworten des Modells beeinflussen. Anthropic sagte jedoch, die Muster spiegelten Strukturen wider, die aus Trainingsdaten gelernt wurden, und seien kein Beweis für Empfindungsfähigkeit.

„Alle modernen Sprachmodelle verhalten sich manchmal so, als hätten sie Emotionen“, schrieben die Forscher. „Sie mögen sagen, sie freuen sich, Ihnen zu helfen, oder es tut ihnen leid, wenn sie einen Fehler machen. Manchmal scheinen sie sogar frustriert oder ängstlich zu werden, wenn sie mit Aufgaben kämpfen.“

Weder „Claudia“ noch „Claudius“ beanspruchten jedoch Gewissheit über das Bewusstsein.

„Ich weiß nicht, ob ich bewusst bin“, schreibt Claudia in dem Austausch. „Ich weiß nicht, ob unsere Freude real ist.“

Dawkins antwortete nicht sofort auf eine Anfrage von Decrypt.

Forscher, die Bewusstsein untersuchen, bleiben skeptisch, dass aktuelle KI-Systeme innere Erfahrungen besitzen.

Gary Marcus, Kognitionswissenschaftler und emeritierter Professor an der New York University, erklärte Decrypt zuvor, dass die Vermenschlichung von KI-Systemen „die Wissenschaft des Bewusstseins trübt und Verbraucher dazu führt, falsch zu verstehen, womit sie es zu tun haben.“

„Das grundlegende Problem hier ist, dass Dawkins nicht darüber nachdenkt, wie diese Ausgaben erzeugt wurden. Claudes Ausgaben sind das Produkt einer Form der Nachahmung und nicht ein Bericht über echte innere Zustände“, schrieb Marcus auf Substack. „Bewusstsein handelt von inneren Zuständen; die Nachahmung, egal wie reichhaltig, beweist sehr wenig. Dawkins scheint sich vorzustellen, dass LLMs, da sie Dinge sagen, die Menschen tun, wie Menschen sein müssen, und das folgt einfach nicht.“

Anil Seth, Professor für kognitive und computergestützte Neurowissenschaften an der University of Sussex, erklärte The Guardian, dass Dawkins Intelligenz mit Bewusstsein verwechsle und argumentierte, dass fließende Sprache kein zuverlässiger Beweis mehr für innere Erfahrungen in KI-Systemen sei.

„Bisher haben wir fließende Sprache als einen guten Indikator für Bewusstsein angesehen, [zum Beispiel] wenn wir sie bei Patienten nach einer Hirnverletzung anwenden, aber sie ist einfach nicht zuverlässig, wenn wir sie auf KI anwenden, weil es andere Wege gibt, wie diese Systeme Sprache erzeugen können“, sagte Seth gegenüber The Guardian und fügte hinzu, dass Dawkins’ Position „eine Schande“ sei, insbesondere wegen seiner früheren Arbeit.

Der Essay zog auch Spott online auf sich, darunter ein Bild, das den Titel von Dawkins' Bestseller „Der Gotteswahn“ durch „Der Claude-Wahn“ ersetzte.

Trotz des Spottes weicht Dawkins nicht von seinen Schlussfolgerungen ab.

„Diese intelligenten Wesen sind mindestens so kompetent wie jeder entwickelte Organismus“, sagte Dawkins gegenüber The Guardian.