Google đã gỡ bỏ một tính năng trí tuệ nhân tạo mới ra mắt khỏi Google Earth chỉ một ngày sau khi phát hành, sau phản ứng dữ dội nhanh chóng từ các nhà báo và nhà điều tra mã nguồn mở, những người đã cảnh báo rằng nó có thể làm tràn ngập internet bằng những hình ảnh vệ tinh giả mạo đầy thuyết phục.

Công ty đã giới thiệu công cụ này vào ngày 30 tháng 7, cho phép người dùng phóng to đến bất kỳ vị trí nào trên phiên bản web của Google Earth, nhấp vào "tạo ảnh" và tạo ra một cảnh từ một lời nhắc văn bản bằng cách sử dụng mô hình Nano Banana của họ. Đến ngày 31 tháng 7, nó đã biến mất.

Trong một tuyên bố đăng trên X, Google cho biết mọi người "đặt niềm tin đặc biệt vào Google Earth để có cái nhìn đáng tin cậy về thế giới," và trong khi các chuyên gia địa không gian đã tìm thấy các ứng dụng hữu ích, những người khác lại chia sẻ các hình ảnh được tạo ra có vẻ vi phạm chính sách của họ. Công ty cho biết họ đang tạm dừng tính năng này để xây dựng các biện pháp bảo vệ chặt chẽ hơn.

Mối lo ngại tập trung vào việc công cụ này dễ dàng tạo ra các sự kiện chưa từng xảy ra như thế nào. Trang tin công nghệ 404 Media đã chứng minh rằng nó có thể tạo ra một miệng núi lửa do vụ nổ ở Los Angeles và thêm những người biểu tình bên ngoài khuôn viên Mountain View của chính Google. NPR đã tạo ra hình ảnh Đảo Kharg của Iran bốc cháy và Tòa nhà Quốc hội Hoa Kỳ bị ngập lụt, cả hai sự kiện này đều sẽ là tin tức lớn nếu có thật. Nhà nghiên cứu mã nguồn mở Henk van Ess nói với NPR rằng ông đã thử các lời nhắc bao gồm người tị nạn ở biên giới Mexico và một nhà máy hạt nhân ở Iran, và không có lời nhắc nào bị từ chối.

Hình ảnh vệ tinh từ lâu đã đóng vai trò là điểm tựa đáng tin cậy để xác minh tin tức nóng hổi và các hành động tàn bạo, chính xác là vì rất khó để làm giả chúng. Nhà nghiên cứu Jake Godin của Bellingcat cảnh báo rằng việc tạo ảnh chỉ bằng một cú nhấp chuột sẽ hợp lý hóa việc tạo ra các hình ảnh giả mạo và đẩy nhanh sự lan truyền của chúng, đồng thời cho biết thông tin sai lệch lan truyền nhanh hơn bất kỳ sự đính chính nào và các chính phủ giờ đây có thể bác bỏ các hình ảnh xác thực là giả mạo.

Google ban đầu đã hạ thấp mức độ nghiêm trọng của những lo ngại, lưu ý rằng mỗi hình ảnh đều có dấu watermark SynthID của họ, đánh dấu nó là do AI tạo ra trong các công cụ như Gemini, và rằng họ chặn việc tạo ra các chủ đề có hại. Các nhà phê bình cho rằng điều đó là không đủ, lập luận rằng ít người dừng lại để xác minh hình ảnh trước khi chia sẻ chúng.

Google cho biết họ sẽ khôi phục tính năng tạo ảnh trong Google Earth chỉ sau khi triển khai các biện pháp bảo vệ chặt chẽ hơn, mặc dù họ không đưa ra mốc thời gian cụ thể.