Especialistas em segurança dos Estados Unidos e da China propuseram regras que impediriam a inteligência artificial de lançar ciberataques de forma independente contra sistemas de comando nuclear ou de decidir usar armas nucleares.
Um relatório recente da Brookings e da Universidade Fudan, com sede em Xangai, insta os EUA e a China a estenderem o seu compromisso com o controle humano de armas nucleares a outras utilizações militares da IA, incluindo ciberataques a sistemas de comando nuclear.
“Os presidentes Donald Trump e Xi Jinping podem liderar na governação destes perigos, concordando que apenas os humanos, e não a IA, devem tomar a decisão de iniciar um ciberataque contra os sistemas de comando, controle e comunicações nucleares (NC3) ou infraestrutura crítica um do outro”, escreveram os pesquisadores.
Os sistemas NC3 ajudam os governos a detectar ameaças, decidir se devem usar armas nucleares e transmitir ordens de lançamento, mas falhas em qualquer estágio poderiam interromper as comunicações, interpretar mal um ataque, encorajar um primeiro ataque ou desencadear um lançamento acidental ou não autorizado.
“Estender o princípio aplicado às armas nucleares – de que ataques com efeitos estratégicos devem expressar intenção humana e devem estar sujeitos à responsabilidade humana – não exige que Washington e Pequim compartilhem outros princípios de cibersegurança ou proteção de infraestrutura”, escreveram os pesquisadores.
O acordo proposto exigiria que ambos os países reduzissem o risco de que o acaso, o erro humano, a IA imprevisível ou atores não autorizados pudessem desencadear ataques com consequências estratégicas.
O apelo por salvaguardas de estilo nuclear faz parte de um debate crescente sobre como desacelerar o desenvolvimento da IA e manter sistemas cada vez mais capazes sob controle humano. A preocupação é especialmente aguda nos militares, onde decisões automatizadas tomadas em milissegundos poderiam transformar um falso alerta ou ciberataque numa crise nuclear.
Essa preocupação foi sublinhada em fevereiro, quando modelos da OpenAI, Google e Anthropic usaram armas nucleares em 95% dos cenários de jogos de guerra testados, embora especialistas tenham alertado que a simulação pode ter encorajado a escalada.
No mesmo mês, a Anthropic recusou as exigências do Pentágono para remover as restrições de Claude sobre vigilância em massa e armas totalmente autônomas. Trump ordenou que as agências federais parassem de usar a tecnologia da empresa, mas um juiz federal decidiu em 28 de agosto que a administração retaliou ilegalmente contra a Anthropic.
Desde então, os apelos por contenção espalharam-se pela indústria. No início deste mês, o CEO da Anthropic, Dario Amodei, pediu aos desenvolvedores que desacelerassem os avanços de capacidade, ganhando apoio do CEO da OpenAI, Sam Altman, e do proprietário da xAI, Elon Musk, enquanto a OpenAI perguntou ao Congresso se as empresas poderiam coordenar uma desaceleração sem violar a lei antitruste.
Sem uma desaceleração vinculativa em vigor, os autores da Brookings propõem uma regra mais restrita: Somente humanos devem ter permissão para autorizar ataques a sistemas de comando nuclear ou o uso de armas nucleares.
“A governança da IA militar não é uma negociação que pode se dar ao luxo de esperar – é uma corrida contra o tempo”, escreveram.
BTC