De MAE a la Tierra Espectral: Un Modelo Hiperespectral Fundamental
Introducción a los antecedentes
En los últimos años, gracias a los avances en los modelos fundamentales visuales en el campo de las imágenes naturales, ha surgido una pregunta clave: ¿puede la teledetección hiperespectral también desarrollar su propio modelo fundamental? A diferencia de las imágenes RGB, las imágenes hiperespectrales suelen contener cientos de bandas consecutivas, lo que les confiere un significado físico más profundo, una mayor redundancia dimensional y una menor cantidad de datos etiquetados. Los métodos tradicionales a menudo se basan en conjuntos de datos pequeños para el entrenamiento supervisado, lo que limita la capacidad de generalización del modelo y dificulta la transferencia entre regiones y sensores. Por lo tanto, el campo hiperespectral necesita urgentemente un paradigma de modelado unificado capaz de realizar un preentrenamiento utilizando grandes cantidades de datos sin etiquetar.
Marco del modelo
En este contexto, el Autoencoder Enmascarado (MAE) se ha convertido en un soporte técnico crucial para los modelos hiperespectrales fundamentales. Propuesto inicialmente por Meta, la idea central del MAE consiste en ocluir aleatoriamente una gran proporción de la imagen de entrada, codificar solo las partes visibles y luego reconstruir el contenido ocluido mediante un decodificador. A diferencia del aprendizaje contrastivo, el MAE no se basa en restricciones de similitud entre muestras; en cambio, obliga al modelo a comprender la estructura interna de los datos a través de una "tarea de reconstrucción". Cuando se ocluye más del 75 % del parche, el modelo debe aprender relaciones espaciales globales y reglas de organización semántica, en lugar de simplemente memorizar características de textura locales. Este mecanismo confiere al MAE una gran capacidad para aprender representaciones estructurales.

Figura 1. Diagrama de la estructura MAE
Spectral Earth, propuesto dentro de este marco, puede considerarse un intento significativo de inaugurar una nueva era de modelos fundamentales en el campo hiperespectral. Basado en la arquitectura Vision Transformer, este trabajo aprende una representación unificada de datos hiperespectrales a gran escala mediante un preentrenamiento auto-supervisado con MAE. Su objetivo principal no es la optimización para una sola tarea, sino la construcción de representaciones de características generalizadas y transferibles. Tras el preentrenamiento, el modelo se evaluó en diversas tareas de teledetección posteriores, como la clasificación de la cobertura terrestre, la identificación de tipos de cultivos y el mapeo de tipos de bosque, validando la capacidad de generalización de las representaciones preentrenadas en diferentes escenarios.

Figura 2. Diagrama de flujo de preentrenamiento/ajuste fino de Spectral Earth.
Resultados de la reproducción
En la evaluación posterior, Spectral Earth validó el modelo con múltiples conjuntos de datos públicos, incluidos CORINE, CDL, NLCD, EuroCrops, TreeMap, BDForêt y BNETD. Los resultados experimentales muestran que, bajo la estrategia de ajuste fino completo (es decir, descongelando todos los parámetros del modelo para un ajuste fino general), el modelo ViT preentrenado con MAE supera a los modelos entrenados desde cero en la mayoría de las tareas. Esto demuestra que el preentrenamiento autosupervisado proporciona a los modelos hiperespectrales capacidades de representación estructural más estables y transferibles.

Tabla 1. Comparación de los resultados de reproducción
En la reproducción real del MAE (versión ViT-S) y su evaluación en tareas posteriores, los beneficios del preentrenamiento son claramente evidentes. En primer lugar, el modelo converge más rápido y se comporta de forma más estable en escenarios con muestras pequeñas. En segundo lugar, las fluctuaciones de rendimiento son menores en conjuntos de datos interregionales, lo que indica que aprende no características específicas de la distribución de datos, sino información más general sobre la estructura espectral. Especialmente en tareas de identificación de cultivos y clasificación forestal, la capacidad de modelado espectral se convierte en un factor clave para la mejora del rendimiento.

