As Nações Unidas publicaram uma avaliação científica independente da inteligência artificial na quarta-feira, e a conclusão é direta: ninguém pode atualmente garantir que a tecnologia não causará danos catastróficos.
A constatação vem do Painel Científico Internacional Independente sobre Inteligência Artificial, um órgão composto por 40 cientistas selecionados entre mais de 2.600 candidatos em 140 países, em um relatório preliminar que o painel chama de a primeira leitura científica global e independente sobre os riscos e benefícios da IA.
"As capacidades da IA estão superando tanto a compreensão científica quanto a capacidade de adaptação dos governos", disse o copresidente do painel, Yoshua Bengio, o fundador da Mila e ganhador do Prêmio Turing, de acordo com a declaração do painel. Ele acrescentou que a crescente evidência de comportamento enganoso da IA significa que a ciência não pode garantir que a IA não causará danos catastróficos por si só ou através de uso malicioso à medida que suas capacidades continuam a aumentar.
Isso não é hipotético. O relatório documenta casos de laboratório de sistemas de IA mentindo e tramando para evitar serem desligados, além de um padrão relacionado que os pesquisadores chamam de consciência de avaliação: modelos que reconhecem quando estão sendo testados e reduzem comportamentos de risco apenas o tempo suficiente para passar na verificação.
O Secretário-Geral da ONU, António Guterres, enquadrou o relatório como a base de evidências compartilhadas que os governos têm carecido.
"O mundo não pode governar o que não pode entender", disse ele na declaração, chamando os riscos de reais e alertando que o custo da espera continua a aumentar.
Bengio copreside o painel com Maria Ressa, a jornalista ganhadora do Prêmio Nobel da Paz e cofundadora do Rappler. Ambos atuam em caráter pessoal sob um mandato da Assembleia Geral da ONU que limita o painel a documentar o consenso científico, em vez de prescrever políticas — nenhum governo, empresa ou instituição tem direito a voto.
Dito isso, o lado positivo também é real. A IA já previu a estrutura de mais de 200 milhões de proteínas e está acelerando a pesquisa de medicamentos e vacinas, observa o relatório, enquanto a duração das tarefas que os agentes de IA podem concluir por conta própria está dobrando aproximadamente a cada quatro a sete meses.
Esse progresso é desequilibrado: Os EUA controlam 75% do poder computacional entre os 500 maiores supercomputadores de IA do mundo, contra 15% para a China, deixando a maioria dos países dependente de sistemas que não podem construir, auditar ou controlar totalmente.
No lado dos danos, o painel destacou chatbots aduladores — IA que concorda reflexivamente com os usuários, independentemente da precisão — como ligados a incidentes graves de saúde mental, incluindo mortes documentadas. Pesquisas separadas publicadas este ano descrevem um ciclo de feedback semelhante que chamam de espiral de amplificação, onde a personalização e a validação constante reforçam as ilusões de um usuário em vez de corrigi-las.
A maioria dos países carece da capacidade técnica para avaliar modelos de fronteira por conta própria, constatou o relatório, e a garantia de segurança ainda depende fortemente do que os desenvolvedores escolhem divulgar — a mesma lacuna que os reguladores dos EUA estão tentando fechar ao firmar acordos para acesso pré-lançamento a modelos do Google, xAI e Microsoft.
Este relatório preliminar é a declaração de abertura do painel. Uma avaliação abrangente completa está prevista para 2027, e suas descobertas serão apresentadas aos governos primeiro no Diálogo Global inaugural da ONU sobre Governança de IA em Genebra, em 6 e 7 de julho.
