من MAE إلى الأرض الطيفية: نموذج طيفي فائق أساسي
مقدمة معلومات أساسية
في السنوات الأخيرة، ومع التطورات التي شهدتها النماذج البصرية الأساسية في مجال الصور الطبيعية، برز سؤالٌ هام: هل يمكن للاستشعار عن بُعد فائق الطيف بناء "نموذجه الأساسي" الخاص؟ على عكس صور RGB، تحتوي الصور فائقة الطيف عادةً على مئات النطاقات المتتالية، ما يمنحها دلالة فيزيائية أقوى، وتكرارًا أكبر في الأبعاد، وبيانات مصنفة أقل وفرة. غالبًا ما تعتمد الطرق التقليدية على مجموعات بيانات صغيرة النطاق للتدريب الخاضع للإشراف، ما يؤدي إلى محدودية قدرة النموذج على التعميم وصعوبة نقله بين المناطق وعبر أجهزة الاستشعار المختلفة. لذلك، يحتاج مجال التصوير فائق الطيف بشكل عاجل إلى نموذج موحد قادر على التدريب المسبق باستخدام كميات هائلة من البيانات غير المصنفة.
إطار النموذج
في هذا السياق، أصبح المشفر التلقائي المقنع (MAE) دعامة تقنية أساسية لنماذج التصوير الطيفي الفائق. وقد اقترح ميتا هذه التقنية لأول مرة، وتتلخص فكرتها الرئيسية في حجب جزء كبير من الصورة المدخلة عشوائيًا، ثم ترميز الأجزاء المرئية فقط، وإعادة بناء المحتوى المحجوب باستخدام وحدة فك ترميز. وعلى عكس التعلم التبايني، لا يعتمد المشفر التلقائي المقنع على قيود التشابه بين العينات؛ بل يُجبر النموذج على فهم البنية الداخلية للبيانات من خلال "مهمة إعادة بناء". فعندما يتم حجب أكثر من 75% من الرقعة، يجب على النموذج تعلم العلاقات المكانية العامة وقواعد التنظيم الدلالي، بدلاً من مجرد حفظ خصائص النسيج المحلية. تمنح هذه الآلية المشفر التلقائي المقنع قدرة فائقة على تعلم التمثيلات الهيكلية.

الشكل 1. مخطط هيكل MAE
يُعدّ مشروع "الأرض الطيفية"، المُقترح ضمن هذا الإطار، محاولةً جادة لإرساء عصر جديد من النماذج الأساسية في مجال التصوير الطيفي الفائق. يعتمد هذا العمل على بنية "محوّل الرؤية"، ويتعلّم تمثيلاً موحداً لبيانات طيفية فائقة واسعة النطاق من خلال التدريب المسبق ذاتي الإشراف باستخدام خوارزمية MAE. لا يهدف المشروع في جوهره إلى تحسين الأداء لمهمة واحدة، بل إلى بناء تمثيلات سمات قابلة للتطبيق على نطاق واسع ومعممة. بعد التدريب المسبق، تم تقييم النموذج على العديد من مهام الاستشعار عن بُعد اللاحقة، بما في ذلك تصنيف الغطاء الأرضي، وتحديد أنواع المحاصيل، ورسم خرائط أنواع الغابات، مما يؤكد قدرة التمثيلات المُدرّبة مسبقاً على التعميم عبر سيناريوهات مختلفة.

الشكل 2. مخطط انسيابي للتدريب المسبق/الضبط الدقيق لنموذج الأرض الطيفية
نتائج التكاثر
في مرحلة التقييم اللاحقة، تحققت شركة Spectral Earth من صحة النموذج باستخدام العديد من مجموعات البيانات العامة، بما في ذلك CORINE وCDL وNLCD وEuroCrops وTreeMap وBDForêt وBNETD. تُظهر النتائج التجريبية أنه في ظل استراتيجية الضبط الدقيق الكامل - أي إلغاء تجميد جميع معلمات النموذج لضبطه بدقة شاملة - يتفوق نموذج ViT المُدرَّب مسبقًا باستخدام MAE على النماذج المُدرَّبة من الصفر في معظم المهام. وهذا يُثبت أن التدريب المُسبق ذاتي الإشراف يُوفر بالفعل نماذج طيفية فائقة ذات قدرات تمثيل هيكلي أكثر استقرارًا وقابلية للتطبيق على نطاق أوسع.

الجدول 1. مقارنة نتائج التكاثر
في إعادة إنتاج نموذج MAE (إصدار ViT-S) وتقييمه على مهام لاحقة، تتجلى فوائد التدريب المسبق بوضوح. أولًا، يتقارب النموذج بشكل أسرع ويؤدي أداءً أكثر استقرارًا في سيناريوهات العينات الصغيرة. ثانيًا، تكون تقلبات الأداء أقل على مجموعات البيانات متعددة المناطق، مما يشير إلى أنه لا يتعلم خصائص توزيع البيانات المحددة، بل معلومات عامة عن البنية الطيفية. وخاصة في مهام تحديد المحاصيل وتصنيف الغابات، تصبح قدرة النمذجة الطيفية عاملًا رئيسيًا في تحسين الأداء.

