Google ha retirado una función de inteligencia artificial recién lanzada de Google Earth apenas un día después de su publicación, tras una rápida reacción negativa de periodistas e investigadores de código abierto que advirtieron que podría inundar internet con convincentes imágenes satelitales falsas.

La compañía introdujo la herramienta el 30 de julio, permitiendo a los usuarios hacer zoom a cualquier ubicación en la versión web de Google Earth, hacer clic en "crear imagen" y generar una escena a partir de una indicación de texto utilizando su modelo Nano Banana. Para el 31 de julio, ya no estaba disponible.

En un comunicado publicado en X, Google dijo que la gente "confía de manera única en Google Earth para una visión fiable del mundo", y que si bien los profesionales geoespaciales habían encontrado aplicaciones útiles, otros estaban compartiendo imágenes generadas que parecían violar sus políticas. Dijo que estaba retirando la función mientras construía salvaguardas más sólidas.

La alarma se centró en la facilidad con la que la herramienta fabricaba eventos que nunca sucedieron. El medio tecnológico 404 Media demostró que podía producir un cráter de explosión en Los Ángeles y añadir manifestantes frente al propio campus de Google en Mountain View. NPR generó imágenes de la isla iraní de Kharg en llamas y de un Capitolio de EE. UU. inundado, ambos serían noticias importantes si fueran reales. El investigador de código abierto Henk van Ess dijo a NPR que probó indicaciones que incluían refugiados en la frontera con México y una planta nuclear en Irán, y que ninguna fue rechazada.

Las imágenes satelitales han servido durante mucho tiempo como un ancla confiable para verificar noticias de última hora y atrocidades, precisamente porque ha sido difícil falsificarlas. El investigador de Bellingcat, Jake Godin, advirtió que la generación con un solo clic agilizaría la creación de falsificaciones y aceleraría su difusión, añadiendo que la desinformación supera cualquier corrección y que los gobiernos ahora podrían desestimar las imágenes auténticas como fabricadas.

Google había minimizado inicialmente las preocupaciones, señalando que cada imagen lleva su marca de agua SynthID, que la marca como generada por IA en herramientas como Gemini, y que bloquea la creación sobre temas dañinos. Los críticos lo consideraron insuficiente, argumentando que pocas personas se detienen a verificar las imágenes antes de compartirlas.

Google dijo que reinstauraría la generación de imágenes en Google Earth solo después de implementar protecciones más estrictas, aunque no dio un plazo.