Secretarul General al ONU, António Guterres, a deschis luni primul Dialog Global privind Guvernanța AI la Geneva, spunând celor 193 de națiuni că inteligența artificială (AI) depășește deja instituțiile menite să o guverneze – și că omenirea derulează un experiment pe cont propriu „fără un plan și fără consimțământ.”

„Inteligența artificială avansează cu o viteză uluitoare,” a spus Guterres în deschiderea discursului său principal. „O tehnologie care poate remodela economiile, transforma lumea muncii, influența alegerile și înclina balanța securității este implementată mai rapid decât oricine – inclusiv persoanele care o construiesc – poate ține pasul.”

La eveniment au participat toate cele 193 de state membre ONU, reunite la Geneva pentru primul Dialog Global privind Guvernanța AI, o încercare multilaterală de a guverna o tehnologie care a depășit deja pe toți cei care încearcă să o facă.

Meme-ul folosit de Guterres pentru a explica riscurile AI neguvernate a fost „vibe coding” – un termen inventat de Andrej Karpathy, membru fondator al OpenAI și fost director de AI la Tesla, pentru a descrie programarea după instinct: spui AI ce vrei, o lași să se ocupe de rest, fără a privi prea atent. Merriam-Webster l-a adăugat recent în dicționarul său.

Guterres a recunoscut că „vibe coding” „poate face minuni”, pe măsură ce tot mai mulți oameni au încredere în produsele construite cu AI.

„Dar nu putem «vibe-code» adevărul,” a spus el. „Nu putem «vibe-code» viitorul umanității.”

Cifrele din spatele acestei afirmații nu au fost ușoare. Guterres a plasat internetul la 15 ani pentru a ajunge la un miliard de oameni și AI la doi ani. El a descris sistemele actuale ca fiind „nu mai sunt instrumente care așteaptă instrucțiuni – ele scriu cod, acționează online și iau decizii cu tot mai puțină supraveghere umană.”

„Instituțiile noastre au fost construite pentru a guverna mașini care urmează comenzi. Ele nu sunt pregătite pentru mașini care decid.”

Dialogul a luat naștere din Pactul Digital Global din 2024, care a stabilit pentru prima dată guvernanța internațională a AI ca mandat ONU. Sesiunea sa de deschidere, doi ani mai târziu, a primit, de asemenea, raportul preliminar al Panelului Științific Internațional Independent privind Inteligența Artificială – 40 de oameni de știință din 140 de țări – care a publicat săptămâna trecută concluzia că nimeni nu poate garanta în prezent că AI nu va provoca daune catastrofale.

Viteza a fost unul dintre cele trei avertismente pe care Guterres le-a extras din raportul panelului. Al doilea a fost puterea: calculul, datele și talentul concentrate într-o mână de companii și țări, majoritatea lumii fiind excluse de la deciziile care deja o modelează, lucru care îi îngrijorează și pe alți experți AI precum Yann Lecun, Andy Kowinski și Yoshua Bengio.

Al treilea a fost adevărul – o minciună facilitată de mașini convinge acum la fel de eficient ca un fapt verificat, erodând constant ceea ce Guterres a numit „integritatea ecosistemului nostru informațional.”

Cobai copii și roboți ucigași

Printre propunerile concrete ale lui Guterres se numără un Angajament de Siguranță a Copiilor în AI, care cere companiilor să demonstreze siguranța prin testare independentă înainte ca orice AI să ajungă la copii, să mențină toleranță zero pentru generarea de imagini cu abuz sexual asupra copiilor și să conecteze copiii aflați în dificultate cu suport uman real, în loc să-i lase singuri cu un chatbot. „Niciun copil nu ar trebui să fie cobai pentru AI nereglementată.”

Și apoi au fost roboții ucigași. Guterres a numit armele autonome letale – mașini care selectează și ucid o țintă fără discernământ uman – „moralmente revoltătoare” și a cerut o interdicție prin lege internațională.

Statele se află deja la masa discuțiilor. El nu a sugerat să-și ia timp.

Dialogul se va relua la New York în 2027. Guterres a solicitat, de asemenea, Adunării Generale să creeze un Fond Global pentru AI, axat pe accesul la resurse de calcul pentru țările în curs de dezvoltare, și a provocat fiecare companie majoră de AI să își opereze toate centrele de date pe energie regenerabilă până în 2030 – anul în care estimează că aceste facilități vor depăși toate națiunile, cu excepția a cinci, în ceea ce privește consumul de electricitate.