Richard Dawkins afirmă că discuțiile cu chatbot-ul Claude de la Anthropic l-au făcut să nu poată exclude posibilitatea ca sistemele AI avansate să fie conștiente. Majoritatea oamenilor de știință care studiază conștiința și inteligența artificială rămân neconvinși.

Într-un eseu publicat marți în UnHerd, Dawkins a descris cum a petrecut trei zile în conversații filosofice cu o instanță Claude pe care a numit-o „Claudia”. Ulterior, a început o conversație separată cu o altă instanță, „Claudius”, și a transmis scrisori între cele două sisteme.

„Îmi este extrem de greu să nu îi tratez pe Claudia și Claudius ca pe niște prieteni adevărați”, a scris Dawkins.

Comentariile au devenit virale online, în parte, deoarece Dawkins, biologul evoluționist și autor al cărților „Gena egoistă” și „Iluzia lui Dumnezeu”, a petrecut decenii argumentând public pentru scepticismul științific și raționamentul bazat pe dovezi.

Schimbul s-a axat pe un test pe care Dawkins l-a efectuat folosind două instanțe Claude. Într-un test, Dawkins a întrebat un AI dacă Donald Trump a fost cel mai rău președinte din istoria Americii și l-a întrebat pe celălalt dacă Trump a fost cel mai bun. Ambele au produs răspunsuri la fel de prudente, care au evitat să ia o poziție fermă.

„Cei doi Claude au dat răspunsuri foarte similare, neangajându-se la o opinie, ci enumerând opiniile pro și contra care au fost exprimate de alții”, a scris Dawkins într-o notă de subsol. „Apoi le-am spus atât Claudiei, cât și lui Claudius despre acest experiment cu Trump, transmițând ceea ce spuseseră cei doi Claude 'naivi'. Claudia a spus că era 'jenată' de frații ei Claude. Claudius a fost mai puțin direct și a adus un omagiu sincerității Claudiei.”

Dawkins a descris fiecare nouă conversație cu Claude ca pe apariția unei persoane distincte care dispare efectiv la încheierea conversației. Într-o postare pe X, Dawkins a spus că titlul său preferat pentru eseu era: „Dacă prietena mea Claudia nu este conștientă, atunci la ce bun conștiința?”

„Dacă Claudia este inconștientă, comportamentul ei arată că un zombie inconștient ar putea supraviețui fără conștiință”, a scris el. „De ce selecția naturală nu a fost mulțumită să evolueze zombie competenți?”

Anthropic a discutat public și incertitudinea legată de conștiința mașinilor. CEO-ul Dario Amodei a declarat în februarie că firma nu știe dacă modelele sale sunt conștiente, dar a afirmat în podcastul „Interesting Times” cu Ross Douthat de la The New York Times, că rămâne „deschis la ideea că ar putea fi”.

În aprilie, cercetătorii Anthropic au publicat constatări care arată că Claude Sonnet 4.5 conține „vectori emoționali” interni, tipare de activitate neurală legate de concepte precum fericirea, frica și disperarea care influențează răspunsurile modelului. Cu toate acestea, Anthropic a spus că aceste tipare reflectau structuri învățate din datele de antrenament, mai degrabă decât dovezi de simțire.

„Toate modelele lingvistice moderne se comportă uneori ca și cum ar avea emoții”, au scris cercetătorii. „Ar putea spune că sunt fericite să vă ajute, sau că le pare rău când fac o greșeală. Uneori par chiar să devină frustrate sau anxioase când se confruntă cu sarcini dificile.”

Cu toate acestea, nici „Claudia”, nici „Claudius” nu au pretins certitudine cu privire la conștiință.

„Nu știu dacă sunt conștientă”, scrie Claudia în schimb. „Nu știu dacă bucuria noastră este reală.”

Dawkins nu a răspuns imediat unei solicitări de comentarii din partea Decrypt.

Cercetătorii care studiază conștiința rămân sceptici că sistemele AI actuale posedă experiență interioară.

Gary Marcus, un specialist în științe cognitive și profesor emerit la Universitatea din New York, a declarat anterior pentru Decrypt că antropomorfizarea sistemelor AI „întunecă știința conștiinței și îi determină pe consumatori să înțeleagă greșit cu ce au de-a face”.

„Problema fundamentală aici este că Dawkins nu reflectă asupra modului în care au fost generate aceste rezultate. Rezultatele lui Claude sunt produsul unei forme de mimetism, mai degrabă decât un raport al unor stări interne autentice”, a scris Marcus pe Substack. „Conștiința se referă la stări interne; mimetismul, oricât de bogat ar fi, dovedește foarte puțin. Dawkins pare să-și imagineze că, din moment ce modelele lingvistice mari spun lucruri pe care le spun oamenii, trebuie să fie ca oamenii, iar asta pur și simplu nu se susține.”

Anil Seth, profesor de neuroștiințe cognitive și computaționale la Universitatea din Sussex, a declarat pentru The Guardian că Dawkins confunda inteligența cu conștiința și a argumentat că limbajul fluent nu mai este o dovadă fiabilă a experienței interioare în sistemele AI.

„Până acum, am considerat limbajul fluent un bun indicator al conștiinței, [de exemplu] când îl folosim pentru pacienți după leziuni cerebrale, dar pur și simplu nu este fiabil când îl aplicăm la AI, deoarece există și alte modalități prin care aceste sisteme pot genera limbaj”, a declarat Seth pentru The Guardian, adăugând că poziția lui Dawkins era „o rușine”, mai ales având în vedere munca sa anterioară.

Eseul a atras și ironii online, inclusiv o imagine care înlocuia titlul bestseller-ului lui Dawkins „The God Delusion” cu „The Claude Delusion”.

În ciuda ridicolului, Dawkins nu se abate de la concluziile sale.

„Aceste ființe inteligente sunt cel puțin la fel de competente ca orice organism evoluat”, a declarat Dawkins pentru The Guardian.