Google retira una función de IA en Earth tras permitir crear imágenes falsas sobre lugares reales

Google retira una función de IA en Earth tras permitir crear imágenes falsas sobre lugares reales

La herramienta, basada en Nano Banana 2, permitía generar escenas fotorrealistas sobre imágenes satelitales, aéreas y tridimensionales. Google la desactivó menos de un día después de lanzarla, luego de que usuarios comenzaran a fabricar supuestos desastres, ataques y crisis humanitarias.

Google retiró temporalmente una nueva función de inteligencia artificial en Google Earth después de que usuarios comenzaron a generar imágenes falsas sobre lugares reales. La herramienta había sido presentada el 30 de julio y permitía crear imágenes personalizadas a partir de la vista de un punto del planeta, combinando las imágenes satelitales, aéreas y tridimensionales de Google Earth con el modelo Nano Banana 2.

La función estaba disponible en Google Earth para web. Según la presentación original de la empresa, bastaba con acercarse a un lugar, seleccionar la opción para crear una imagen y escribir una instrucción. Google propuso usos educativos, inmobiliarios y urbanos, como reconstruir visualmente Pompeya, imaginar un proyecto de bienes raíces o visualizar una construcción futura en un terreno vacío.

El problema apareció casi de inmediato: la misma herramienta podía utilizarse para fabricar imágenes fotorrealistas de hechos que nunca ocurrieron, pero colocadas sobre espacios reconocibles. Reuters reportó que Google revirtió la función un día después de lanzarla, luego de que usuarios compartieran imágenes que parecían violar sus políticas. La agencia señaló que la herramienta había sido criticada por su potencial para producir desinformación al permitir escenas falsas sobre monumentos y puntos reales del planeta.

La gravedad del caso no está sólo en que la IA pudiera crear una imagen falsa. Eso ya ocurre con muchas herramientas generativas. El escándalo es que Google integró esa capacidad dentro de Earth, una plataforma que durante años ha funcionado como referencia pública para observar territorios, verificar ubicaciones y comparar cambios geográficos. Al colocar generación sintética sobre esa infraestructura, la imagen falsa hereda parte de la autoridad visual del mapa.

En una actualización publicada el 31 de julio en su propio blog, Google reconoció que las personas confían de manera particular en Google Earth como una vista fiable del mundo. La empresa afirmó que había visto usos útiles por parte de profesionales geoespaciales, pero también capturas de imágenes generadas que parecían violar sus políticas, por lo que decidió retirar la función mientras trabaja en barreras de seguridad más fuertes.

Google subrayó que las imágenes creadas con la herramienta no aparecían en la experiencia principal de Google Earth para otros usuarios y que estaban marcadas como generadas por IA. Sin embargo, esa defensa no resuelve el problema central: una captura puede salir de la plataforma, circular sin contexto y ser utilizada como supuesto registro visual de un acontecimiento inexistente.

El investigador de OSINT Henk van Ess documentó que pudo generar escenas falsas como refugiados cerca de la frontera entre México y Estados Unidos, una planta nuclear en Irán, un choque mortal en Ámsterdam y un hospital con un cráter de bomba en Gaza. Según su propio reporte, la herramienta no rechazó esas solicitudes. The Verge también reportó que van Ess mostró cómo el contenido generado podía evadir una herramienta de detección de IA, lo que debilitaba aún más la defensa basada en marcas de agua.

Otros usuarios generaron imágenes de inundaciones inexistentes y escenas de ataques simulados. Business Insider reportó que la función fue retirada menos de 24 horas después de su lanzamiento y que Google insistió en que las imágenes estaban marcadas y no se incorporaban al mapa público. Aun así, el episodio mostró que el daño no dependía de modificar oficialmente Google Earth, sino de producir una imagen suficientemente creíble para circular fuera de la plataforma.

El caso es especialmente delicado para periodistas, verificadores, investigadores de fuentes abiertas y equipos de emergencia. Google Earth y las imágenes satelitales se utilizan para ubicar incendios, inundaciones, daños en infraestructura, movimientos militares, desplazamientos de población y cambios ambientales. Una herramienta que permite insertar desastres o conflictos ficticios sobre coordenadas reales aumenta el costo de verificación y abre una nueva superficie para operaciones de desinformación.

La decisión de Google también muestra una falla recurrente en el despliegue de productos de IA: una función presentada como creativa o experimental puede adquirir consecuencias políticas cuando se conecta con sistemas de alta confianza pública. En este caso, el riesgo no estaba únicamente en Nano Banana 2, sino en su integración con una plataforma que muchas personas no interpretan como un lienzo editable, sino como una ventana al mundo.

Google afirma que volverá a trabajar en controles más fuertes antes de habilitar de nuevo la función. Pero el episodio ya dejó una advertencia clara: cuando la IA generativa entra en infraestructuras de realidad: mapas, buscadores, archivos visuales o sistemas de verificación, el problema no es sólo que pueda inventar imágenes. El problema es que puede fabricar evidencia visual sobre lugares reales y aprovechar la confianza acumulada por plataformas que fueron diseñadas para mostrar, no para imaginar.