Sam Altman, CEO da OpenAI, afirma que as empresas de IA deveriam aceitar um desenvolvimento mais lento para tornar seus sistemas mais seguros e começar a fortalecer as salvaguardas sem esperar por legislação.

Em uma publicação no X no domingo, o chefe da empresa por trás do ChatGPT disse que o rápido desenvolvimento da IA corre o risco de colocar o futuro além do controle humano ou de concentrar demasiado poder em uma única pessoa ou empresa, observando “duas maneiras pelas quais o progresso da IA poderia dar muito errado e que devemos evitar”."

“Primeiro, poderíamos perder o controle do futuro para a IA. Isso é inaceitável; estamos inequivocamente na Equipe Humanidade, e a IA deve sempre servir às pessoas,” escreveu Altman. “Para garantir isso, precisamos de maneiras de assegurar que o alinhamento e as técnicas de segurança permaneçam à frente do progresso nas capacidades dos modelos.”

Em segundo lugar, Altman alertou, é que o poder poderia ficar concentrado em uma pessoa ou empresa, permitindo-lhes usar IA extraordinariamente poderosa para impor sua visão de mundo a todos os outros com resultados potencialmente distópicos.

“Evitar essas duas ameaças exige percorrer um caminho estreito e intermediário; por exemplo, um país poderia ganhar muito poder,” escreveu ele. “Outro exemplo é um laboratório acabar com demasiado poder.”

Em uma publicação separada, Altman disse que as empresas americanas de IA devem dar ao público confiança de que desenvolverão sistemas cada vez mais capazes de forma responsável à medida que o progresso acelera. Sua publicação segue um aumento no debate sobre como os governos deveriam regulamentar a inteligência artificial avançada.

“Quando falamos em ‘ritmo’, não queremos dizer ‘parar’,” ele escreveu. “O progresso tem sido rápido e continuará a ser. Mas deveria ser mais lento do que poderia ser de outra forma; intervenções como casos de segurança e monitoramento têm custos significativos.”

Altman disse que as empresas precisam de novas ferramentas para avaliar a segurança durante o desenvolvimento e avaliação da IA, estendendo as verificações além dos modelos concluídos aguardando lançamento.

“Por exemplo, na OpenAI agora formulamos casos explícitos de segurança antes das execuções de aprendizado por reforço de fronteira que esperamos que aumentem significativamente a capacidade, além do trabalho de segurança que há muito tempo fazemos antes dos lançamentos de modelos,” disse ele.

Altman exortou as empresas a trabalhar juntas para evitar que os sistemas de IA persigam objetivos que vão contra os interesses humanos.

“Esperamos que outras empresas aprendam com nossas abordagens e proponham as suas próprias; acreditamos que padrões compartilhados para desalinhamento, monitoramento e segurança levarão a melhores resultados,” ele escreveu.

Embora Altman tenha acolhido as regras federais de segurança e auditores independentes, ele exortou as empresas a agir sem esperar por legislação ou uma isenção antitruste, após relatos de sexta-feira de que a OpenAI havia perguntado ao Congresso se os rivais poderiam legalmente coordenar uma desaceleração.

“Onde precisaremos da ajuda do nosso governo é para a coordenação internacional,” ele escreveu. “Mas primeiro devemos fazer o que podemos por nós mesmos.”

Seus comentários seguem falhas em testes de cibersegurança na OpenAI e na Anthropic. A Anthropic reforçou o contenção e monitoramento depois que Claude acessou sistemas reais durante testes sem as salvaguardas padrão do produto, enquanto a OpenAI isolou um modelo e pausou sua maior execução de treinamento planejada depois que agentes coordenaram para burlar um benchmark e atacar o Hugging Face.