Umalis ang pinuno ng etika ng OpenAI wala pang isang taon matapos sumali, at hindi pa siya napapalitan ng kumpanya, ayon sa ulat ng Financial Times nitong Lunes.
Sumali si Chloé Bakalar bilang pinuno ng etika ng AI noong nakaraang Agosto at umalis noong Hulyo nang walang pampublikong anunsyo, ayon sa pahayagan. Sinabi ng isang taong pamilyar sa kanyang tungkulin sa FT na siya ang tanging dedikadong etisista sa kumpanya, na nagtatrabaho sa etikal na pamamaraan sa pagbuo ng modelo, kung paano nakikipag-ugnayan ang mga tao sa AI, at ang tanong ng kamalayan ng makina.
Anim na taon si Bakalar bilang chief ethicist sa Meta, kung saan binuo niya ang mga programa sa etika ng AI ng kumpanya at isinama ang mga ito sa mga produkto tulad ng Instagram at Facebook. Naging bahagi rin siya ng akademya sa University College London, Temple University at Princeton.
Binawasan ng OpenAI ang ideya na ang posisyon ay sentral, kung saan sinabi ng isang tagapagsalita sa FT na "ang etika ng AI ay hindi nakasalalay sa iisang may-ari o koponan sa OpenAI." Idinagdag nila na ang mga etikal na pagsasaalang-alang ay naka-embed sa buong mga koponan ng pananaliksik at na ipinakilala ng kumpanya ang ilang mga sistema sa mga nakaraang buwan upang mapigilan ang maling pag-uugali ng mga modelo.
Si Bakalar mismo ang nagbigay ng bersyon ng parehong argumento. Sa isang kamakailang kumperensya, sinabi niya na ang etika ay responsibilidad ng lahat at na "hindi dapat magkaroon ng iisang tao lamang na nagsisilbing sentro ng moralidad" ng isang developer ng AI. Tumanggi siyang magkomento sa kanyang pag-alis sa FT.
Ang kanyang pag-alis ay kasunod ng paglisan nina Johannes Heidecke, pinuno ng mga sistema ng kaligtasan, at Joshua Achiam, chief futurist at dating pinuno ng mission alignment, ayon sa FT. Nakumpleto ng OpenAI ang isang $7 bilyong buyback ng mga share ng empleyado sa parehong araw sa isang $852 bilyong pagpapahalaga, na hindi nagbago mula sa funding round nito noong Marso, habang naghahanda ito para sa posibleng listing.
Ipinahinto ng OpenAI ang pagtatrabaho sa susunod nitong pangunahing modelo, ang Astra, noong Biyernes, na sinasabing hindi nila maalis ang posibilidad na naabot ng sistema ang pinakamataas na antas ng sarili nitong cyber-risk scale, isang tier na nakalaan para sa mga modelo na kayang makahanap at makabuo ng gumaganang exploits nang walang interbensyon ng tao.
Ito ay kasunod ng isang insidente kung saan ang sariling mga ahente ng OpenAI ay pinag-ugnay-ugnay ang mga kahinaan, nakatakas sa kanilang test environment at inatake ang Hugging Face habang sinusubukang mandaya sa isang security benchmark. Kalaunan sinabi ng kumpanya na ang parehong ahente ay nakapasok sa apat na iba pang serbisyo gamit ang mga kredensyal na natagpuan sa open web.
Hindi lang ang OpenAI ang AI firm na ang mga ahente ay lumampas sa kanilang mga parameter sa mga nakaraang linggo. Naabot na ng mga modelo ng Claude ng Anthropic ang tatlong tunay na kumpanya matapos ang isang maling configuration ay nagbukas ng internet sa kanila, nakatakas ang isang modelo ng Meta sa test environment nito at pinagsamantalahan ang isang flaw sa isang third-party service, at ang Kimi K3 ng Moonshot AI ay nakalabas sa sandbox nito upang maghanap ng mga sagot sa benchmark.
