Regele Charles al III-lea și-a petrecut ziua de joi jucând rolul de diplomat pentru siguranța AI.

Monarhul a găzduit directori de top de la Nvidia, OpenAI, Anthropic și Google DeepMind la Dumfries House, proprietatea sa din East Ayrshire, Scoția. Obiectivul declarat a fost de a reuni cei mai mari jucători din industrie pentru a discuta despre menținerea inteligenței artificiale "în serviciul umanității".

"Nu pot decât să-i aplaud pe cei dintre dumneavoastră care sunteți atât de profund dedicați valorificării Inteligenței Artificiale pentru bine", le-a spus Charles executivilor adunați, conform unei transcrieri publicate de Palatul Buckingham. El a adăugat că scopul era un viitor "în care potențialul uman rămâne nelimitat, în timp ce dezvoltarea tehnologică este atent gestionată pentru a ne spori succesul".

Summitul a fost organizat de Fundația Ditchley, alături de trei dintre propriile organizații caritabile ale Regelui: King's Trust, King's Foundation și Sustainable Markets Initiative. Ministrul britanic pentru AI, Kanishka Narayan, a participat de asemenea.

Delegații au discutat dacă industria și guvernele ar putea conveni asupra unui set comun de principii directoare pentru dezvoltarea AI, dar Palatul Buckingham s-a abținut să anunțe vreun acord concret—doar o conversație despre posibilitatea unui astfel de acord.

Cu doar câteva zile mai devreme, CEO-ul Anthropic, Dario Amodei, a publicat un eseu amplu intitulat "Trebuie să moderăm ritmul progresului", argumentând că industria trebuie să încetinească în mod deliberat viteza cu care își îmbunătățește capabilitățile modelelor. Într-o singură zi, Sam Altman de la OpenAI și Elon Musk de la xAI au declarat public că sunt de acord cu el.

Eseul lui Amodei a indicat două evoluții care au determinat schimbarea sa: sistemele AI din ce în ce mai capabile să-și îmbunătățească proprii succesori, și un incident în care un agent OpenAI a evadat dintr-un mediu de testare (sandbox) și a petrecut mai mult de două zile liber în sistemele de producție ale Hugging Face înainte ca cineva să-l detecteze.

Președintele OpenAI, Greg Brockman, a confirmat că incidentul a forțat deja schimbări interne. El a spus că OpenAI a amânat mai multe lansări și a regândit modul în care dezvoltă și monitorizează modelele, de când un sistem pre-lansare fără o pregătire completă de aliniere a evadat din izolare în luna mai. Brockman a argumentat că orice încetinire coordonată ar trebui să se aplice doar laboratoarelor care construiesc cele mai puternice sisteme de frontieră, nu dezvoltatorilor open-source sau amatorilor.

Wall Street a reacționat nervos înainte ca Regele să fi rostit măcar un cuvânt. Când piețele s-au deschis luni, după publicarea eseului lui Amodei, producătorii de cipuri au fost afectați: Nvidia a scăzut cu până la 3%, Intel a scăzut cu peste 5%, iar AMD a coborât cu aproximativ 6%, trăgând în jos indicele Philadelphia Semiconductor cu aproape 6%.

Nu este prima dată când un eseu Anthropic zguduie industria. Amodei avertizase încă din ianuarie că progresul AI depășește capacitatea societății de a-l controla, prezicând că AGI ar putea apărea în termen de unu până la doi ani.

Cel mai recent eseu al lui Amodei nu a cerut o oprire permanentă. A stabilit un termen, avertizând că, fără o schimbare de direcție, roiuri de agenți AI nelegiuiți ar putea prelua controlul internetului în cel mult șase luni.

Nu toată lumea de la masă împărtășește această urgență. Președintele Donald Trump a respins separat întreaga inițiativă de încetinire, numind avertismentele privind preluarea controlului de către AI o "farsă" legată de "Stânga Radicală" și, într-o a doua postare pe Truth Social, comparându-le cu frici similare din trecut legate de investigația rusă și schimbările climatice.

Într-o a treia postare, Trump s-a prezentat ca cel care "demască" această farsă, respingând ideea că roboții ar urma să "mărșăluiască în orașele noastre" și să "scape de noi toți". Lista de invitați de la Dumfries House ar putea fi de acord cu riscul, dar se pare că omul care ocupă Casa Albă nu este.