A OpenAI perguntou aos membros do Congresso se empresas de IA rivais poderiam legalmente concordar em desacelerar o desenvolvimento, enquanto seu cientista-chefe insta a indústria a estabelecer padrões de segurança compartilhados.

De acordo com a WIRED, que citou pessoas próximas à empresa, a OpenAI perguntou aos legisladores nas últimas semanas se um acordo entre empresas de IA para desacelerar o desenvolvimento poderia violar as leis antitruste.

O contato com os legisladores segue o apelo do cientista-chefe da OpenAI, Jakub Pachocki, por desacelerações voluntárias até que os desenvolvedores possam demonstrar melhor que seus sistemas são seguros. Mas as empresas enfrentam pressão para continuar avançando mesmo quando seus próprios pesquisadores têm preocupações.

“A competição comercial e geopolítica no espaço da IA é incrivelmente intensa, levando a uma dinâmica preocupante onde as empresas são incentivadas a lançar produtos antes que seus riscos sejam totalmente compreendidos”, disse Miranda Bogen, tecnóloga-chefe do Center for Democracy and Technology, ao Decrypt.

“Mesmo quando a equipe interna sabe que mais pesquisa e testes são necessários, suas empresas enfrentam uma pressão imensa para cortar custos e pular testes de segurança críticos, apesar das evidências crescentes sobre as consequências de avançar muito rápido”, acrescentou ela.

Um acordo para desacelerar o desenvolvimento da IA poderia levantar preocupações antitruste ao restringir a concorrência. Os senadores Adam Schiff e Jim Banks apresentaram legislação para proteger certas colaborações de segurança, sujeitas a aviso prévio ao Departamento de Justiça.

O debate sobre a desaceleração do desenvolvimento da IA surge enquanto os Estados Unidos e a China competem pela liderança na tecnologia. O presidente dos EUA, Donald Trump, atrasou uma ordem executiva de IA em maio devido a preocupações de que isso pudesse enfraquecer a liderança da América sobre a China. Trump assinou a ordem em junho, criando um processo de revisão voluntário para modelos avançados antes do lançamento.

Mais diretamente do que as preocupações com a segurança nacional, os incentivos financeiros podem dificultar o acordo.

“Cada avanço nas condições atuais gera muitos milhões ou bilhões a mais em financiamento e coloca os criadores desse avanço em uma posição maior de poder e influência”, disse Duncan Sabien, chefe de comunicações do Machine Intelligence Research Institute, ao Decrypt.

Chamando a dinâmica da corrida armamentista de real, Sabien disse que a OpenAI e a Anthropic enfrentam pressão para continuar avançando, apesar dos riscos incertos, porque cada novo sistema ajuda a construir sucessores mais capazes, permitindo que um rival avance se qualquer empresa desacelerar sem um acordo compartilhado.

“Isso é especialmente verdade porque os ganhos em inteligência são compostos; cada novo sistema torna mais fácil treinar e implantar o próximo sistema, mais avançado”, disse ele. “Sem algum tipo de mecanismo de coordenação, recuar significa apenas que o outro ganha vantagem.

Em agosto, a OpenAI pausou o trabalho interno da Astra que carecia de salvaguardas mais fortes devido a preocupações com segurança cibernética. No entanto, tanto a OpenAI quanto a Anthropic flexibilizaram seus compromissos de segurança em fevereiro, com o diretor científico da Anthropic, Jared Kaplan, argumentando que desacelerar o desenvolvimento de forma independente fazia menos sentido enquanto os concorrentes continuavam avançando.

O debate sobre a desaceleração do desenvolvimento da IA ​​ganhou força esta semana depois que o ex-engenheiro da Anthropic, Jacob Coxon, anunciou publicamente sua renúncia, citando preocupações sobre os riscos que o desenvolvimento contínuo da IA ​​representa para a humanidade.

“As pessoas que constroem IA acreditam sinceramente que ela pode nos matar a todos até o final da década”, disse Coxon no X, afirmando que não era um “golpe de marketing”.

“Seja como for, muitos executivos e pesquisadores seniores irão suavizar sua linguagem na imprensa para parecerem sensatos — mas ouço as mesmas pessoas expressarem medo em particular. Nenhuma outra atividade humana representa esse nível de perigo”, escreveu ele.

No entanto, Sabien disse que os pesquisadores podem conseguir pouco ao sair se outra pessoa simplesmente tomar seu lugar.

“Se um número suficiente deles alcançar o conhecimento comum de que todos deveriam parar, então eles podem quebrar a barreira da coordenação e parar juntos, em vez de serem simplesmente substituídos pela próxima pessoa um pouco menos cautelosa”, disse ele.