Fokus Media Visi Global
Syarikat itu telah dipaparkan di CCTV sebanyak 15 kali, dan jangkauannya melalui media Parti, media pusat dan media rasmi tempatan mencecah sejumlah 50 juta orang.
Dari MAE ke Bumi Spektrum: Model Hiperspektral Asas
Pengenalan Latar Belakang
Dalam beberapa tahun kebelakangan ini, dengan penemuan dalam model asas visual dalam bidang imej semula jadi, satu persoalan telah menjadi jelas secara beransur-ansur: bolehkah penderiaan jauh hiperspektral juga membina "model asas" sendiri? Tidak seperti imej RGB, imejan hiperspektral biasanya mengandungi beratus-ratus jalur berturut-turut, yang mempunyai makna fizikal yang lebih kuat, redundansi dimensi yang lebih tinggi, dan data berlabel yang lebih terhad. Kaedah tradisional sering bergantung pada set data berskala kecil untuk latihan yang diselia, mengakibatkan keupayaan generalisasi model yang terhad dan kesukaran dalam pemindahan merentas wilayah dan merentas sensor. Oleh itu, medan hiperspektral amat memerlukan paradigma pemodelan bersatu yang mampu melakukan pra-latihan menggunakan sejumlah besar data tidak berlabel.
Kerangka model
Dengan latar belakang ini, Masked Autoencoder (MAE) telah menjadi sokongan teknikal yang penting untuk model asas hiperspektral. Pertama kali dicadangkan oleh Meta, idea teras MAE adalah untuk menutup sebahagian besar imej input secara rawak, mengekod hanya bahagian yang kelihatan, dan kemudian membina semula kandungan yang tersumbat menggunakan penyahkod. Tidak seperti pembelajaran kontrastif, MAE tidak bergantung pada kekangan persamaan antara sampel; sebaliknya, ia memaksa model untuk memahami struktur dalaman data melalui "tugas pembinaan semula." Apabila lebih daripada 75% tampalan tersumbat, model mesti mempelajari hubungan ruang global dan peraturan organisasi semantik, daripada sekadar menghafal ciri tekstur tempatan. Mekanisme ini memberikan MAE keupayaan yang hebat untuk mempelajari perwakilan struktur.
Rajah 1. Gambarajah Struktur MAE
Bumi Spektrum, yang dicadangkan dalam rangka kerja ini, boleh dilihat sebagai percubaan penting untuk mengantar era baharu model asas dalam bidang hiperspektral. Berdasarkan seni bina Transformer Vision, kerja ini mempelajari perwakilan terpadu pada data hiperspektral berskala besar melalui pra-latihan yang diselia sendiri menggunakan MAE. Objektif utamanya bukanlah pengoptimuman untuk satu tugas, tetapi sebaliknya pembinaan perwakilan ciri umum yang boleh dipindahkan. Selepas pra-latihan, model tersebut dinilai pada pelbagai tugas penderiaan jauh hiliran, termasuk pengelasan litupan tanah, pengenalpastian jenis tanaman dan pemetaan jenis hutan, mengesahkan keupayaan generalisasi perwakilan yang telah dilatih terlebih dahulu merentasi senario yang berbeza.
Rajah 2. Carta alir pra-latihan/penalaan halus Bumi Spektral
Hasil pembiakan
Dalam penilaian hiliran, Spectral Earth telah mengesahkan model tersebut pada pelbagai set data awam, termasuk CORINE, CDL, NLCD, EuroCrops, TreeMap, BDForêt dan BNETD. Keputusan eksperimen menunjukkan bahawa, di bawah strategi Penalaan Halus Penuh—iaitu, menyahbekukan semua parameter model untuk penalaan halus keseluruhan—model ViT yang dilatih terlebih dahulu dengan MAE mengatasi model yang dilatih dari awal dalam kebanyakan tugas. Ini menunjukkan bahawa latihan awal yang diselia sendiri sememangnya menyediakan model hiperspektral dengan keupayaan perwakilan struktur yang lebih stabil dan boleh dipindahkan.
Jadual 1. Perbandingan Keputusan Pembiakan
Dalam penghasilan semula sebenar MAE (versi ViT-S) dan penilaiannya terhadap tugasan hiliran, manfaat pra-latihan jelas kelihatan. Pertama, model ini menumpu dengan lebih pantas dan berprestasi lebih stabil dalam senario sampel kecil. Kedua, turun naik prestasi adalah lebih kecil pada set data merentas wilayah, menunjukkan bahawa ia mempelajari bukan ciri taburan data tertentu, tetapi maklumat struktur spektrum yang lebih umum. Terutamanya dalam tugasan pengenalpastian tanaman dan pengelasan hutan, keupayaan pemodelan spektrum menjadi faktor utama dalam peningkatan prestasi.