O Secretário-Geral da ONU, António Guterres, abriu na segunda-feira o primeiro Diálogo Global sobre Governança de IA em Genebra, dizendo a 193 nações que a IA já está a ultrapassar as instituições destinadas a governá-la – e que a humanidade está a realizar uma experiência consigo mesma "sem um plano e sem consentimento".

"A inteligência artificial está a avançar a uma velocidade vertiginosa”, disse Guterres na abertura do seu discurso principal. “Uma tecnologia que pode remodelar economias, transformar o mundo do trabalho, influenciar eleições e alterar o equilíbrio da segurança está a ser implementada mais rapidamente do que qualquer um – incluindo as pessoas que a estão a construir – pode acompanhar."

A sala incluía todos os 193 estados membros da ONU, reunidos em Genebra para o primeiro Diálogo Global sobre Governança de IA, uma tentativa multilateral de governar uma tecnologia que já ultrapassou todos os que tentam fazê-lo.

O "meme" usado por Guterres para explicar os riscos da IA não governada foi o "vibe coding" — um termo cunhado por Andrej Karpathy, membro fundador da OpenAI e ex-diretor de IA na Tesla, para descrever a programação por intuição: diga à IA o que quer, deixe-a lidar com o resto, não olhe muito de perto. O dicionário Merriam-Webster recentemente adicionou-o ao seu léxico.

Guterres reconheceu que o "vibe coding" "pode fazer maravilhas" à medida que mais pessoas confiam em produtos construídos por IA.

"Mas não podemos 'vibe-codificar' a verdade", disse ele. "Não podemos 'vibe-codificar' o futuro da humanidade."

Os números por trás dessa afirmação não foram brandos. Guterres disse que a internet levou 15 anos para atingir mil milhões de pessoas e a IA apenas dois. Ele descreveu os sistemas atuais como "já não são ferramentas à espera de instruções — estão a escrever código, a atuar online e a tomar decisões com cada vez menos supervisão humana".

"As nossas instituições foram construídas para governar máquinas que seguem comandos. Elas não estão preparadas para máquinas que decidem."

O diálogo nasceu do Pacto Digital Global de 2024, que estabeleceu pela primeira vez a governança internacional da IA como um mandato da ONU. A sua sessão de abertura, dois anos depois, também recebeu o relatório preliminar do Painel Científico Internacional Independente sobre Inteligência Artificial – 40 cientistas de 140 países – que publicou na semana passada a descoberta de que ninguém pode garantir atualmente que a IA não causará danos catastróficos.

A velocidade foi um dos três avisos que Guterres extraiu do painel. O segundo foi o poder: computação, dados e talento concentrados num punhado de empresas e países, com a maior parte do mundo excluída de decisões que já o estão a moldar, algo que também preocupa outros especialistas em IA como Yann Lecun, Andy Kowinski e Yoshua Bengio.

O terceiro foi a verdade — uma mentira habilitada por máquina agora persuade tão eficazmente quanto um facto verificado, erodindo continuamente o que Guterres chamou de "integridade do nosso ecossistema de informação".

Crianças cobaias e robôs assassinos

Entre as propostas concretas de Guterres está um Compromisso de Segurança Infantil em IA que exige que as empresas comprovem a segurança através de testes independentes antes que qualquer IA chegue às crianças, mantenham tolerância zero para a geração de imagens de abuso sexual infantil e conectem crianças em sofrimento a apoio humano real em vez de as deixar sozinhas com um chatbot. "Nenhuma criança deve ser uma cobaia para IA não regulamentada."

E depois, havia os robôs assassinos. Guterres classificou as armas autónomas letais — máquinas que selecionam e matam um alvo sem julgamento humano — como "moralmente repugnantes" e exigiu uma proibição por lei internacional.

Os estados já estão à mesa de discussões. Ele não sugeriu que demorassem.

O Diálogo será retomado em Nova Iorque em 2027. Guterres também apelou à Assembleia Geral para criar um Fundo Global para a IA focado no acesso à computação para países em desenvolvimento, e desafiou todas as grandes empresas de IA a operar todos os centros de dados com energia renovável até 2030 – ano em que ele estima que essas instalações ultrapassarão todos, exceto cinco nações, em consumo de eletricidade.