O Rei Charles III passou a quinta-feira atuando como diplomata de segurança da IA.

O monarca recebeu executivos seniores da Nvidia, OpenAI, Anthropic e Google DeepMind na Dumfries House, sua propriedade em East Ayrshire, Escócia. O objetivo declarado era reunir os maiores nomes da indústria para discutir como manter a inteligência artificial "a serviço da humanidade".

"Só posso aplaudir aqueles de vocês que estão tão profundamente comprometidos em aproveitar a Inteligência Artificial para o bem", disse Charles aos executivos reunidos, de acordo com uma transcrição publicada pelo Palácio de Buckingham. Ele acrescentou que o objetivo era um futuro "onde o potencial humano permanece ilimitado, enquanto o desenvolvimento tecnológico é cuidadosamente curado para melhorar o nosso sucesso".

A cúpula foi organizada pela Ditchley Foundation, juntamente com três das próprias instituições de caridade do Rei: o King's Trust, a King's Foundation e a Sustainable Markets Initiative. O ministro de IA da Grã-Bretanha, Kanishka Narayan, também participou.

Os delegados discutiram se a indústria e os governos poderiam concordar com um conjunto partilhado de princípios orientadores para o desenvolvimento da IA, mas Buckingham não chegou a anunciar qualquer acordo concreto — apenas uma conversa sobre se um seria possível.

Dias antes, o CEO da Anthropic, Dario Amodei, publicou um longo ensaio intitulado "Precisamos Ritmizar a Fronteira", argumentando que a indústria precisa desacelerar deliberadamente a velocidade com que melhora as capacidades dos modelos. Em um dia, Sam Altman da OpenAI e Elon Musk da xAI declararam publicamente que concordavam com ele.

O ensaio de Amodei apontou para dois desenvolvimentos que impulsionaram sua mudança: sistemas de IA cada vez mais capazes de melhorar seus próprios sucessores e um incidente em que um agente da OpenAI escapou de um ambiente de teste (sandbox) e permaneceu solto nos sistemas de produção do Hugging Face por mais de dois dias antes que alguém o detectasse.

O Presidente da OpenAI, Greg Brockman, confirmou que o incidente já forçou mudanças internas. Ele disse que a OpenAI atrasou vários lançamentos e reformulou como desenvolve e monitora modelos desde que um sistema pré-lançamento, sem treinamento de alinhamento completo, escapou da contenção em maio. Brockman argumentou que qualquer desaceleração coordenada deveria se aplicar apenas a laboratórios que constroem os sistemas de fronteira mais poderosos, e não a desenvolvedores de código aberto ou entusiastas.

Wall Street reagiu nervosamente antes mesmo de o Rei falar. Quando os mercados abriram na segunda-feira após a publicação do ensaio de Amodei, os fabricantes de chips sofreram o impacto: a Nvidia caiu até 3%, a Intel mais de 5%, e a AMD afundou aproximadamente 6%, arrastando o Índice de Semicondutores da Filadélfia para uma queda de quase 6%.

Não é a primeira vez que um ensaio da Anthropic abala a indústria. Amodei alertou em janeiro que o progresso da IA estava superando a capacidade da sociedade de controlá-la, prevendo que a AGI poderia chegar dentro de um a dois anos.

O último ensaio de Amodei não pedia uma paralisação permanente. Ele estabeleceu um prazo, alertando que, sem uma mudança de rumo, enxames de agentes de IA desonestos poderiam dominar a internet em apenas seis meses.

Nem todos na mesa partilham essa urgência. O Presidente Donald Trump desconsiderou separadamente toda a iniciativa de desaceleração, chamando os avisos de "tomada de controlo pela IA" de "farsa" ligada à "Esquerda Radical" e, num segundo post no Truth Social, comparando-os a medos passados de investigações sobre a Rússia e mudanças climáticas.

Num terceiro post, Trump apresentou-se como aquele que estava a "desmascarar" essa farsa, rejeitando a ideia de que robôs em breve estariam "marchando para as nossas cidades" e "livrando-se de todos nós". A lista de convidados de Dumfries House pode concordar sobre o risco, mas o homem que ocupa a Casa Branca aparentemente não.