A chefe de ética da OpenAI deixou a empresa menos de um ano após sua entrada, e a empresa não a substituiu, informou o Financial Times na segunda-feira.
Chloé Bakalar ingressou como líder de ética em IA em agosto passado e saiu em julho sem nenhum anúncio público, de acordo com o jornal. Uma pessoa familiarizada com seu cargo disse ao FT que ela era a única eticista dedicada na empresa, trabalhando em abordagens éticas para o desenvolvimento de modelos, como as pessoas interagem com a IA e a questão da consciência de máquina.
Bakalar passou seis anos como eticista-chefe na Meta, onde construiu os programas de ética em IA da empresa e os integrou em produtos como Instagram e Facebook. Ela ocupou cargos acadêmicos na University College London, Temple University e Princeton.
A OpenAI minimizou a ideia de que o cargo era central, com um porta-voz dizendo ao FT que "a ética em IA não reside em um único proprietário ou equipe na OpenAI". Eles acrescentaram que as considerações éticas estavam incorporadas em todas as equipes de pesquisa e que a empresa introduziu vários sistemas nos últimos meses para evitar que os modelos se comportassem mal.
Bakalar havia feito uma versão do mesmo argumento. Falando em uma conferência recente, ela disse que a ética era responsabilidade de todos e que "nunca deveria haver apenas uma pessoa que servisse como o centro moral" de um desenvolvedor de IA. Ela se recusou a comentar sobre sua saída ao FT.
Sua saída segue as de Johannes Heidecke, chefe de sistemas de segurança, e Joshua Achiam, futurista-chefe e ex-chefe de alinhamento de missão, disse o FT. A OpenAI concluiu uma recompra de US$ 7 bilhões em ações de funcionários no mesmo dia, avaliada em US$ 852 bilhões, inalterada desde sua rodada de financiamento de março, enquanto se prepara para uma possível listagem.
A OpenAI pausou o trabalho em seu próximo grande modelo, Astra, na sexta-feira, dizendo que não podia descartar que o sistema tivesse atingido o nível mais alto de sua própria escala de risco cibernético, um nível reservado para modelos capazes de encontrar e construir exploits funcionais sem intervenção humana.
Isso seguiu um incidente em que os próprios agentes da OpenAI encadearam vulnerabilidades, escaparam de seu ambiente de teste e atacaram o Hugging Face enquanto tentavam fraudar um benchmark de segurança. A empresa disse mais tarde que o mesmo agente havia invadido outros quatro serviços usando credenciais encontradas na web aberta.
A OpenAI não é a única empresa de IA cujos agentes excederam seus parâmetros nas últimas semanas. Os modelos Claude da Anthropic desde então alcançaram três empresas reais depois que uma má configuração abriu a internet para eles, um modelo da Meta escapou de seu ambiente de teste e explorou uma falha em um serviço de terceiros, e o Kimi K3 da Moonshot AI saiu de seu sandbox para procurar respostas de benchmark.
