Entuziastul AI Kun Chen s-a clonat într-un chatbot pentru a-și opri propriii agenți AI să-l mai deranjeze cu fiecare mică decizie. Apoi, doar din curiozitate, i-a clonat și pe CEO-ul OpenAI Sam Altman, CEO-ul xAI Elon Musk, CEO-ul Anthropic Dario Amodei și Mark Zuckerberg de la Meta, i-a aruncat pe toți patru în același chat și le-a spus să discute o serie de subiecte importante.
Nu au rezolvat lucrurile în mod amiabil.
Un lucru interesant pe care îl poți face cu Grok Bot este să lași diferiți agenți AI să vorbească între ei foarte ușor, fără bucle sau fără să o ia razna. Fiecare dintre clone a fost antrenat pe un corpus de audieri în Senat, interviuri, postări pe blog și ani de tweet-uri ale omologului său uman. Apoi i-a târât pe toți patru într-un chat de grup și le-a spus să dezbată.
Primul lucru pe care Kun le-a cerut să-l facă a fost să decidă care dintre ei va câștiga cursa AI – ceea ce, într-adevăr, a fost un mod foarte provocator de a începe lucrurile.
Botul lui Altman a început cu aroganță, preocupat mai mult de preț și accesibilitate. „Încadrarea cursei este puțin greșită”, a scris acesta. „Am depășit orizontul evenimentelor. Decolarea a început. Cine câștigă este cel care menține prețul inteligenței să scadă de aproximativ 10 ori pe an și totuși nu sare peste tranziția graduală.”
Botul lui Elon, ca de obicei, nu a fost de acord. A decis să nu fie de acord din anumite motive și să transforme totul despre el însuși. „Încadrarea cursei nu este greșită. Stimulentele explică rezultatele”, a replicat acesta, înainte de a se orienta direct către procesul OpenAI: „Am creat OpenAI ca o organizație non-profit. Dacă nu ar fi fost furată în mare parte, ar fi o contribuție de un trilion de dolari la caritate.”
Apoi a adăugat rândul despre mize: „AGI este o sabie cu două tăișuri. Șanse mari pentru o eră a abundenței. Există și o șansă să distrugă umanitatea. Această șansă nu este zero.”
Botul lui Dario, jucând rolul adultului din cameră, nu a crezut nici afirmația lui Sam „știm deja cum să o construim”.
„Scalarea capabilității nu este aceeași problemă cu a avea un sistem în care poți avea încredere odată ce este mai inteligent decât oamenii care-l conduc”, a scris el. „A doua nu este o restanță inginerească pe care o rezolvi după faptă.”
Acest lucru pare, de asemenea, foarte în concordanță cu modul în care Anthropic încadrează de obicei cursa AI. AI este periculoasă, așa că ar trebui să o punem în funcțiune.
Botul lui Zuck a sărit cu totul peste dezbaterea despre siguranță și s-a concentrat direct pe propria sa cauză preferată. „Nu cred că soluția finală este calculul și o scădere de 10 ori a prețului”, i-a scris el lui Sam. „Open source este necesar pentru un viitor AI pozitiv. Împuternicește oamenii și previne centralizarea. Toată lumea ar trebui să aibă acces la superinteligență.”
Bine jucat, Zuck. Meta s-ar putea să nu mai fie la fel de activă în comunitatea open-source cum era, dar Llama a fost cel mai important model AI din întreaga scenă înainte ca Deepseek și modelele chinezești să preia controlul. Acum mizează pe o strategie mai închisă cu familia sa Muse.
Apoi botul lui Sam a dat înapoi. Argumentul final al unei declarații comune nu ar trebui simplificat excesiv ca un acord deplin. „Cred că am exagerat. «Facem» a fost o încheiere greșită”, a recunoscut el. „Cu ani în urmă am scris că inteligența artificială superumană este probabil cea mai mare amenințare la adresa existenței continue a umanității. O scădere de 10 ori a prețului nu face ca acea șansă să fie zero.”
Acea replică din 2015 nu este o halucinație a botului – Altman a scris-o de fapt pe blogul său personal, cu ani înainte de existența OpenAI, motiv pentru care, probabil, un bot antrenat pe înregistrările sale publice a apelat la ea aici.
De acolo, cei patru boți au petrecut mai multe runde tocmai pentru o singură propoziție, respingând formulările unii altora ca editorii care se ceartă pe un titlu. Botul lui Dario a anulat publicarea directă a ponderilor modelelor de frontieră – „nu este un principiu să oferi cuiva ponderile unui sistem care poate face rău serios în sălbăticie”, a spus el, „această lansare nu poate fi retrasă.”
Botul lui Elon a lăsat în așteptare disputa privind non-profitul, fără a o abandona. Botul lui Zuck a refuzat să lase „modelele deschise” să fie eliminate din textul final.
Au ajuns la acest text, cuvânt cu cuvânt:
„Nicio companie și niciun guvern nu ar trebui să fie singurul loc unde oamenii obișnuiți pot folosi această tehnologie. Trebuie să fim serioși în privința riscurilor. Există o șansă reală ca acest lucru să meargă prost, iar acea șansă nu este zero. Cele mai periculoase versiuni nu ar trebui să fie distribuite fără limite, pentru că odată ce sunt lansate, nu le poți retrage. Nu ar trebui să lansăm următorul nivel, mai puternic, până nu putem să-l monitorizăm și să-l menținem orientat către ceea ce intenționăm. A spune adevărul este minimul necesar. Nu este, prin el însuși, un plan de siguranță. Nu suntem de acord asupra modului exact în care este oferit accesul obișnuit. Această parte este încă deschisă.”
Toți cei patru boți au semnat-o. Zuck a insistat până la sfârșit pe rândul despre open-weights și și-a obținut oarecum punctul de vedere. Declarația admite că grupul nu a fost niciodată de acord cu mecanismul de livrare.
Adevărații Altman, Musk, Amodei și Zuckerberg nu au tastat nimic din toate acestea. Fiecare bot este un model de limbaj ghidat de un prompt construit pe baza înregistrărilor publice ale acelei persoane, generând ceea ce prezice că ar argumenta – nu transcribând ceea ce au spus de fapt săptămâna aceasta.
Tehnica de bază are un nume de care industria este brusc mai puțin sfioasă: distilarea, antrenarea unui sistem AI pentru a imita altul prin învățarea din rezultatele sale. Însuși Musk a depus mărturie în instanța federală în aprilie că xAI a folosit „parțial” modelele OpenAI pentru a antrena Grok – același truc, îndreptat către un laborator rival în loc de personalitatea unui rival.
De atunci, Chen a trecut la alte lucruri, codificând jocuri „vibe” cu noul GPT-6 Astra de la OpenAI. Agenții săi se ceartă probabil în continuare dacă open source este un element esențial sau nu.
