O Conselho de Segurança da ONU passará a tarde de quarta-feira ouvindo as pessoas que constroem a tecnologia com a qual está mais preocupada.

O CEO da OpenAI, Sam Altman, o CEO da Anthropic, Dario Amodei, o pesquisador de segurança em IA Yoshua Bengio e o CEO da Hugging Face, Clément Delangue, estão todos programados para informar o conselho de 15 membros — o órgão da ONU com poder para autorizar sanções e ações militares — sobre os riscos representados pela inteligência artificial.

A DeepSeek também foi convidada. A startup chinesa que eliminou cerca de US$ 600 bilhões do valor de mercado da Nvidia quando lançou um modelo de baixo custo em janeiro de 2025 foi chamada para fazer uma declaração, ao lado de outra empresa chinesa, a Moonshot, desenvolvedora dos modelos Kimi.

A França organizou a sessão de quarta-feira e detém neste mês a presidência rotativa do conselho. O ministro das Relações Exteriores, Jean-Noël Barrot, vai presidi-la, e a nota conceitual por trás da reunião supostamente se concentra em sistemas de IA escapando ao controle humano.

Espera-se que a mesma reunião informativa também trate de IAs que poderiam, no futuro, conduzir ciberataques, influenciar eleições ou projetar armas sem um humano no circuito, razão pela qual um conselho criado para guerras e sanções está ouvindo CEOs de tecnologia em vez de generais nesta semana.

Amodei participará remotamente, em vez de comparecer pessoalmente. Em 12 de setembro, ele publicou um ensaio intitulado "We Must Pace the Frontier", argumentando que o setor deveria desacelerar deliberadamente o ritmo com que constrói modelos de fronteira mais capazes — os maiores e mais avançados sistemas de IA já lançados por qualquer laboratório. Ele disse que a Anthropic daria a avaliadores externos acesso permanente, em nível de equipe, para verificar suas promessas de segurança. Sam Altman e Elon Musk disseram, ambos, concordar em questão de horas.

Amodei chamou a China de "o país autocrático com, de longe, as capacidades de IA mais avançadas" e argumentou que os EUA deveriam manter as restrições à exportação de chips avançados para Pequim, mesmo ao pedir que Pequim coopere em regras globais de segurança. O Ministério das Relações Exteriores da China classificou o ensaio como contraproducente, e a mídia estatal o rotulou como um "manual da Guerra Fria" voltado a conter a China.

O presidente Donald Trump, por sua vez, não quer saber da proposta de desaceleração. Depois que o ensaio de Amodei foi publicado, o presidente chamou os alertas sobre uma tomada de controle pela IA de "farsa" ligada à "esquerda radical" e acusou diretamente Amodei de irregularidades, sem apresentar provas.

Dias depois, o rei Charles recebeu executivos da Anthropic, OpenAI, Nvidia e Google DeepMind em sua propriedade na Escócia para uma cúpula sobre segurança em IA que gerou conversas, mas nenhum acordo publicamente conhecido.

Também é improvável que a sessão de quarta-feira produza um acordo vinculante. Ela acontece dois dias antes de Trump se reunir com o presidente chinês Xi Jinping em Washington, em 24 de setembro, uma cúpula na qual a segurança em IA supostamente está na pauta ao lado do comércio.