O Google retirou um recurso de inteligência artificial recém-lançado do Google Earth mal um dia após o seu lançamento, depois de uma rápida reação de jornalistas e investigadores de código aberto que alertaram que ele poderia inundar a internet com imagens de satélite falsas e convincentes.

A empresa introduziu a ferramenta em 30 de julho, permitindo que os usuários ampliassem para qualquer local na versão web do Google Earth, clicassem em "criar imagem" e gerassem uma cena a partir de um prompt de texto usando seu modelo Nano Banana. Em 31 de julho, ela havia sido removida.

Em um comunicado postado no X, o Google disse que as pessoas "confiam unicamente no Google Earth para uma visão confiável do mundo", e que, embora profissionais geoespaciais tivessem encontrado aplicações úteis, outros estavam compartilhando imagens geradas que pareciam violar suas políticas. A empresa disse que estava retirando o recurso enquanto construía salvaguardas mais fortes.

O alarme centrou-se na facilidade com que a ferramenta fabricava eventos que nunca aconteceram. O meio de comunicação de tecnologia 404 Media demonstrou que ela poderia produzir uma cratera de explosão em Los Angeles e adicionar manifestantes do lado de fora do próprio campus do Google em Mountain View. A NPR gerou imagens da Ilha de Kharg, no Irã, em chamas e de um Capitólio dos EUA inundado, ambos os quais seriam notícias importantes se fossem reais. O pesquisador de código aberto Henk van Ess disse à NPR que experimentou prompts incluindo refugiados na fronteira mexicana e uma usina nuclear no Irã, e que nenhum foi recusado.

As imagens de satélite há muito servem como uma âncora confiável para verificar notícias de última hora e atrocidades, precisamente porque tem sido difícil falsificá-las. O pesquisador do Bellingcat Jake Godin alertou que a geração com um clique simplificaria a criação de falsificações e aceleraria sua disseminação, acrescentando que a desinformação supera qualquer correção e que os governos poderiam agora descartar imagens autênticas como fabricadas.

O Google inicialmente minimizou as preocupações, observando que cada imagem carrega sua marca d'água SynthID, que a sinaliza como gerada por IA em ferramentas como Gemini, e que bloqueia a criação sobre tópicos prejudiciais. Os críticos consideraram isso insuficiente, argumentando que poucas pessoas param para verificar as imagens antes de compartilhá-las.

O Google disse que reinstauraria a geração de imagens no Google Earth somente após implementar proteções mais rigorosas, embora não tenha fornecido um prazo.