Google a retiré une fonctionnalité d'intelligence artificielle récemment lancée de Google Earth à peine un jour après sa publication, suite à une réaction rapide de journalistes et d'enquêteurs en sources ouvertes qui craignaient qu'elle n'inonde internet d'images satellites falsifiées convaincantes.

L'entreprise a introduit l'outil le 30 juillet, permettant aux utilisateurs de zoomer sur n'importe quel endroit de la version web de Google Earth, de cliquer sur "créer une image" et de générer une scène à partir d'une invite textuelle en utilisant son modèle Nano Banana. Le 31 juillet, il avait disparu.

Dans une déclaration publiée sur X, Google a affirmé que les gens « font confiance de manière unique à Google Earth pour une vision fiable du monde », et que si les professionnels de la géospatialisation avaient trouvé des applications utiles, d'autres partageaient des images générées qui semblaient violer ses politiques. L'entreprise a déclaré qu'elle retirait la fonctionnalité en attendant de construire des garde-fous plus solides.

L'alarme a été déclenchée par la facilité avec laquelle l'outil fabriquait des événements qui ne se sont jamais produits. Le média technologique 404 Media a démontré qu'il pouvait produire un cratère d'explosion à Los Angeles et ajouter des manifestants devant le campus de Google à Mountain View. NPR a généré des images de l'île de Kharg en Iran en feu et d'un Capitole américain inondé, deux événements qui seraient des nouvelles majeures s'ils étaient réels. Le chercheur en sources ouvertes Henk van Ess a déclaré à NPR qu'il avait essayé des invites incluant des réfugiés à la frontière mexicaine et une centrale nucléaire en Iran, et qu'aucune n'avait été refusée.

L'imagerie satellite a longtemps servi de pilier fiable pour vérifier les nouvelles de dernière minute et les atrocités, précisément parce qu'elle était difficile à falsifier. Jake Godin, chercheur chez Bellingcat, a averti que la génération en un clic simplifierait la création de faux et accélérerait leur diffusion, ajoutant que la désinformation dépasse toute correction et que les gouvernements pourraient désormais rejeter les images authentiques comme étant fabriquées.

Google avait initialement minimisé les inquiétudes, notant que chaque image portait son filigrane SynthID, qui l'identifie comme générée par IA dans des outils comme Gemini, et qu'il bloquait la création sur des sujets nuisibles. Les critiques ont jugé cela insuffisant, arguant que peu de gens s'arrêtent pour vérifier les images avant de les partager.

Google a déclaré qu'il ne rétablirait la génération d'images dans Google Earth qu'après avoir mis en œuvre des protections plus strictes, sans toutefois donner de calendrier.