مناقشة حول تطبيق نموذج الطين في تجزئة الاستشعار عن بعد
مقدمة معلومات أساسية
مع التحسين المستمر لقدرات الحصول على صور الاستشعار عن بُعد، تزداد متطلبات قدرة النماذج على التعميم في مهام مثل تصنيف الغطاء الأرضي، وتحديد المسطحات المائية، واستخراج الأراضي الزراعية، ومراقبة الأراضي الرطبة، وتجزئة الأسطح الحضرية غير المنفذة. تعتمد طرق التجزئة الدلالية التقليدية عادةً على بيانات مصنفة يدويًا واسعة النطاق، وغالبًا ما تُدرَّب على مصدر بيانات واحد أو منطقة واحدة، مما يؤدي بسهولة إلى تدهور الأداء عند تطبيقها على مناطق وأجهزة استشعار وفترات زمنية مختلفة. في المقابل، تستطيع النماذج الأساسية، المدربة مسبقًا على بيانات الاستشعار عن بُعد واسعة النطاق، تعلم تمثيلات سطحية أكثر عمومية قبل نقلها إلى مهام لاحقة محددة، مما يمنحها ميزة كبيرة في مجال تجزئة الاستشعار عن بُعد. يُعدّ Clay نموذجًا أساسيًا مفتوح المصدر لرصد الأرض، تم اقتراحه في هذا السياق. يُصنَّف رسميًا على أنه "نموذج أساسي موجه نحو الأرض"، حيث يمكنه استقبال صور الاستشعار عن بُعد مع معلومات الموقع والوقت، وإخراج تمثيلات مميزة ذات دلالات مكانية وزمانية لمهام التصنيف والانحدار وكشف التغيرات والتجزئة اللاحقة.
من منظور التطبيقات، يُعدّ Clay مناسبًا بشكل خاص لسيناريوهات تجزئة الاستشعار عن بُعد التي تتضمن عينات مصنفة محدودة ولكن بمتطلبات عمل واضحة. على سبيل المثال، في رسم خرائط استخدام/غطاء الأرض، يمكن استخدامه كبنية أساسية للمشفّر، مستفيدًا من الميزات العامة المدربة مسبقًا لتحسين أداء التجزئة في ظل ظروف العينات الصغيرة؛ وفي مهام الهجرة عبر المناطق، يمكنه أيضًا التخفيف من مشكلة "التدريب في منطقة واحدة والفشل في أخرى". تشير الوثائق الرسمية أيضًا إلى أن Clay يدعم مدخلات متعددة من أجهزة الاستشعار، بما في ذلك Sentinel-2 وLandsat وSentinel-1 وNAIP وLINZ وMODIS، مما يمنحه قدرة عالية على التكيف في تطبيقات الاستشعار عن بُعد متعددة المصادر.
إطار النموذج
يمكن تلخيص الإطار العام لـ Clay v1.5 على النحو التالي: "التضمين الديناميكي + ترميز الموقع المكاني والزماني + بنية MAE الأساسية + قيود المعلم". أولًا، يُنشئ النموذج تمثيلات للرقع بناءً على عدد النطاقات ومعلومات الطول الموجي للصورة المدخلة من خلال وحدة التضمين الديناميكي، مما يدعم المدخلات من مستشعرات مختلفة ومجموعات متنوعة من النطاقات. ثانيًا، يُدخل النموذج ترميز الموقع، ويُشفّر دقة الموقع الأرضي (GSD) وخطوط الطول والعرض والمعلومات الزمنية في تمثيل الميزات، مما يُمكّن النموذج ليس فقط من "رؤية" المحتوى الطيفي، بل أيضًا من فهم الموقع المكاني والخصائص الزمنية للصورة.
يستخدم نموذج Clay في جوهره بنية مشفر تلقائي مقنع قائمة على محول الرؤية لإعادة بناء كتل الإدخال المحجوبة. ووفقًا للوثائق الرسمية، يمثل فقدان إعادة البناء حوالي 95% من إجمالي الفقد، وهو المسؤول بشكل أساسي عن تعلم البنية الطيفية المكانية لبيانات الاستشعار عن بُعد؛ أما النسبة المتبقية البالغة 5% فتأتي من القيود التمثيلية التي توفرها شبكة المعلم. يستخدم الإصدار 1.5 من Clay شبكة DINOv2 كمعلم لتعزيز التعبير الدلالي لمساحة التضمين. من حيث حجم النموذج، يحتوي Clay v1.5 على حوالي 632 مليون مُعامل، بما في ذلك حوالي 311 مليون مُعامل للمشفر، وحوالي 15 مليون مُعامل للمفكك، وحوالي 304 ملايين مُعامل لشبكة المعلم. كما تكشف الوثائق الرسمية أن هذا الإصدار من النموذج قد تم تدريبه على حوالي 70 مليون شريحة استشعار عن بُعد موزعة عالميًا، مما يشير إلى أساس تدريب مسبق متين.

الشكل 1. نموذج طيني
في مهام التجزئة، لا يُخرج Clay خرائط تجزئة دلالية مباشرةً، ولكنه يُعدّ أكثر ملاءمةً كبنية أساسية لاستخراج الميزات. يتمثل النهج الشائع في الاحتفاظ بالمُشفّر الخاص به وإضافة مُفكِّك تجزئة خفيف الوزن، مثل مُفكِّك SegFormer أو FPN أو U-Net، لاستعادة التفاصيل المكانية من خلال دمج الميزات متعددة الطبقات، مما يُنتج في النهاية نتائج تصنيف على مستوى البكسل. يُوازن هذا النهج، "النموذج الأساسي + رأس المهمة"، بين قدرات التمثيل المُدرَّبة مُسبقًا وقابلية التكيف مع المهام اللاحقة، ويُلبي بشكل أفضل متطلبات تجزئة الاستشعار عن بُعد للحدود والتفاصيل متعددة المقاييس.
نتائج التكاثر
أضافت هذه التجربة وحدة فك تشفير شبيهة بـ SegFormer بعد وحدة التشفير Clay، مستخدمةً دمج ميزات الطبقة الوسيطة للتنبؤ بنتائج التجزئة. استخدمت التجربة حوالي 2000 عينة عشوائية للتدريب والتحقق. بعد حوالي 30 دورة تدريبية، حققت مجموعة التحقق...مؤشر تقاطع الاتحاد المرجح 0.869النتيجة.

الشكل 2. البيانات التجريبية
يمكن استخدام Clay كبنية أساسية موحدة للميزات في مهام مثل رسم خرائط الغطاء الأرضي، وتقسيم المسطحات المائية، وتحديد الغابات والنباتات المنخفضة، واستخراج الطرق والأسطح غير المنفذة. مع ذلك، تجدر الإشارة إلى أن هدف التدريب المسبق لـ Clay لا يزال في جوهره تعلم التمثيل وإعادة البناء. لذا، وللحصول على توصيف دقيق للحدود، لا تزال هناك حاجة إلى وحدات فك تشفير تجزئة مناسبة، ودمج الميزات متعددة المقاييس، واستراتيجيات معالجة لاحقة لتحقيق نتائج عالية الجودة في التطبيقات الهندسية.

