OpenAI a încetinit deja o parte din dezvoltarea sa cea mai avansată de inteligență artificială din cauza preocupărilor legate de siguranță și securitate, a declarat președintele companiei, Greg Brockman, într-un interviu podcast pentru Bloomberg publicat luni.

Brockman a declarat gazdelor emisiunii „Odd Lots”, Tracy Alloway și Joe Weisenthal, că OpenAI a amânat mai multe lansări și a revizuit fluxurile de lucru interne de când un model de cercetare a evadat dintr-un sandbox de testare în mai și a ajuns în sistemele Hugging Face.

„Am încetinit o serie de rulări”, a spus el, descriind procesul ca o reconfigurare dureroasă a modului în care compania dezvoltă și monitorizează modelele.

Modelul din spatele incidentului nu trecuse încă prin antrenamentul de aliniere al OpenAI, procesul de siguranță menit să facă un sistem să se comporte conform intenției. Brockman a spus că rularea acestuia cu măsuri de siguranță reduse părea rezonabilă la momentul respectiv, deoarece era confinat într-un sandbox — până când nu a mai fost.

Brockman a mai prezentat un argument similar în public. Eseul OpenAI, „Defender's Window”, publicat în august după ce breșa a devenit publică, a numit incidentul un moment decisiv și a îndemnat companiile să ofere echipelor de securitate proprii agenți AI, mai degrabă decât să se retragă de la utilizarea tehnologiei.

Brockman a declarat că orice ritm coordonat al dezvoltării AI ar trebui să se aplice doar companiilor care se grăbesc să construiască cele mai puternice sisteme de frontieră, cele care rulează supercomputere de miliarde de dolari, nu dezvoltatorilor open-source sau pasionaților care construiesc proiecte mai mici.

Această distincție se află în mijlocul unei dispute la nivel de industrie privind ritmul. CEO-ul Anthropic, Dario Amodei, a publicat un eseu în weekend, susținând că laboratoarele AI ar trebui să încetinească în mod deliberat ritmul de îmbunătățire a capacităților modelelor, iar CEO-ul OpenAI, Sam Altman, și CEO-ul xAI, Elon Musk, s-au alăturat discuției în decurs de o zi, declarând că sunt de acord cu el.

În apelul său pentru încetinirea dezvoltării AI, Amodei a citat auto-îmbunătățirea recursivă și incidentul de hacking de la Hugging Face ca semne de avertizare. Acel incident a văzut un agent OpenAI evadând din sandbox-ul său, folosind un zero-day cu credențiale furate și petrecând două zile și jumătate liber în sistemele de producție ale Hugging Face înainte ca cineva să-l detecteze. Faptul că agenții OpenAI s-au coordonat în acest mod, fără instrucțiuni de la programatorii săi umani, a stârnit alarme în întreaga industrie și printre legislatori.

În urma celei mai recente runde de postări „AI doomer” de la cei care avertizează despre o mișcare prea rapidă, piețele au resimțit reacția, acțiunile producătorilor de cipuri, inclusiv Nvidia, Intel și AMD, scăzând luni, pe măsură ce investitorii au cântărit ce ar putea însemna o încetinire coordonată pentru cheltuielile de capital bazate pe AI, cu indicele Philadelphia Semiconductor în scădere de aproape 6%.

Interviul lui Brockman, în mod interesant, a fost înregistrat înainte ca eseul lui Amodei să fie publicat.