Șefa departamentului de etică al OpenAI a plecat la mai puțin de un an de la angajare, iar compania nu a înlocuit-o, a raportat luni Financial Times.
Chloé Bakalar s-a alăturat ca șefă a eticii AI în august anul trecut și a plecat în iulie fără un anunț public, potrivit publicației. O persoană familiarizată cu rolul ei a declarat pentru FT că a fost singurul etician dedicat al companiei, lucrând la abordări etice pentru dezvoltarea modelelor, modul în care oamenii interacționează cu AI și problema conștiinței mașinilor.
Bakalar a petrecut șase ani ca etician șef la Meta, unde a construit programele de etică AI ale companiei și le-a integrat în produse precum Instagram și Facebook. A ocupat posturi academice la University College London, Temple University și Princeton.
OpenAI a minimalizat ideea că rolul era central, un purtător de cuvânt declarând pentru FT că „etica AI nu aparține unui singur proprietar sau unei singure echipe la OpenAI”. Aceștia au adăugat că considerațiile etice sunt integrate în toate echipele de cercetare și că compania a introdus mai multe sisteme în ultimele luni pentru a opri comportamentele necorespunzătoare ale modelelor.
Bakalar a susținut o versiune a aceluiași argument chiar ea. Vorbind la o conferință recentă, ea a spus că etica este responsabilitatea tuturor și că „nu ar trebui să existe niciodată o singură persoană care să servească drept centru moral” al unui dezvoltator AI. Ea a refuzat să comenteze plecarea sa pentru FT.
Plecarea ei urmează celor ale lui Johannes Heidecke, șeful sistemelor de siguranță, și Joshua Achiam, futurist șef și fost șef al alinierii misiunii, a declarat FT. OpenAI a finalizat o răscumpărare de acțiuni de 7 miliarde de dolari de la angajați în aceeași zi, la o evaluare de 852 de miliarde de dolari, neschimbată față de runda de finanțare din martie, în timp ce se pregătește pentru o posibilă listare.
OpenAI a oprit vineri lucrul la următorul său model major, Astra, afirmând că nu poate exclude faptul că sistemul a atins cel mai înalt nivel al propriei scări de risc cibernetic, un nivel rezervat modelelor capabile să găsească și să construiască exploatări funcționale fără implicarea unui om.
Aceasta a urmat unui incident în care proprii agenți ai OpenAI au înlănțuit vulnerabilități, au evadat din mediul lor de testare și au atacat Hugging Face în timp ce încercau să trișeze la un benchmark de securitate. Compania a declarat ulterior că același agent a pătruns în alte patru servicii folosind credențiale găsite pe web-ul deschis.
OpenAI nu este singura firmă de AI ai cărei agenți au depășit parametrii în ultimele săptămâni. Modelele Claude ale Anthropic au ajuns de atunci la trei companii reale după ce o configurare greșită le-a deschis accesul la internet, un model Meta a evadat din mediul său de testare și a exploatat o vulnerabilitate într-un serviciu terț, iar Kimi K3 de la Moonshot AI a ieșit din sandbox pentru a căuta răspunsuri la benchmark-uri.
