Global Vision Media Focus
Кампанія была прадстаўлена на тэлеканалах CCTV у агульнай складанасці 15 разоў, а яе ахоп праз партыйныя СМІ, цэнтральныя СМІ і мясцовыя афіцыйныя СМІ дасягнуў 50 мільёнаў чалавек.
Ад MAE да спектральнай Зямлі: фундаментальная гіперспектральная мадэль
Уводзіны ў перадумовы
У апошнія гады, з прарывамі ў візуальных базавых мадэлях у галіне прыродных выяваў, паступова стала зразумелым пытанне: ці можа гіперспектральнае дыстанцыйнае зандзіраванне таксама стварыць сваю ўласную «базавую мадэль»? У адрозненне ад RGB-выяў, гіперспектральныя выявы звычайна ўтрымліваюць сотні паслядоўных палос, якія валодаюць больш моцным фізічным сэнсам, больш высокай вымяральнай надмернасцю і меншай колькасцю пазначаных дадзеных. Традыцыйныя метады часта абапіраюцца на невялікія наборы дадзеных для навучання пад наглядам, што прыводзіць да абмежаванай магчымасці абагульнення мадэлі і цяжкасцей у міжрэгіянальнай і міжсенсарнай перадачы. Такім чынам, гіперспектральнае поле тэрмінова мае патрэбу ў адзінай парадыгме мадэлявання, здольнай да папярэдняга навучання з выкарыстаннем велізарнай колькасці немаркаваных дадзеных.
Мадэльная структура
На гэтым фоне маскаваны аўтаэнкадэр (MAE) стаў найважнейшай тэхнічнай падтрымкай для гіперспектральных базавых мадэляў. Упершыню прапанаваны кампаніяй Meta, асноўная ідэя MAE заключаецца ў тым, каб выпадковым чынам закрываць вялікую частку ўваходнага малюнка, кадаваць толькі бачныя часткі, а затым рэканструяваць засланены змест з дапамогай дэкодэра. У адрозненне ад кантрастыўнага навучання, MAE не абапіраецца на абмежаванні падабенства паміж узорамі; замест гэтага ён прымушае мадэль разумець унутраную структуру дадзеных праз «задачнасць рэканструкцыі». Калі больш за 75% участка засланяецца, мадэль павінна вывучыць глабальныя прасторавыя адносіны і правілы семантычнай арганізацыі, а не проста запамінаць лакальныя асаблівасці тэкстуры. Гэты механізм дае MAE магутную магчымасць вывучаць структурныя прадстаўленні.
Малюнак 1. Структурная дыяграма MAE
Прапанаваная ў гэтых рамках мадэль «Спектральная Зямля» можа разглядацца як значная спроба пачаць новую эру фундаментальных мадэляў у гіперспектральнай галіне. Заснаваная на архітэктуры Vision Transformer, гэтая праца вывучае адзінае прадстаўленне маштабных гіперспектральных дадзеных шляхам самастойнага папярэдняга навучання з выкарыстаннем MAE. Яе асноўная мэта — не аптымізацыя для адной задачы, а хутчэй пабудова пераносных, абагульненых прадстаўленняў прыкмет. Пасля папярэдняга навучання мадэль была ацэнена на некалькіх наступных задачах дыстанцыйнага зандзіравання, уключаючы класіфікацыю зямельнага покрыва, ідэнтыфікацыю тыпаў сельскагаспадарчых культур і картаграфаванне тыпаў лесу, што пацвердзіла здольнасць папярэдне навучаных прадстаўленняў да абагульнення ў розных сцэнарыях.
Малюнак 2. Блок-схема папярэдняга навучання/дакладнай налады Spectral Earth
Вынікі размнажэння
У далейшай ацэнцы Spectral Earth праверыла мадэль на некалькіх публічных наборах даных, у тым ліку CORINE, CDL, NLCD, EuroCrops, TreeMap, BDForêt і BNETD. Эксперыментальныя вынікі паказваюць, што пры стратэгіі поўнай дакладнай налады, гэта значыць размарозкі ўсіх параметраў мадэлі для агульнай дакладнай налады, мадэль ViT, папярэдне навучаная з дапамогай MAE, пераўзыходзіць мадэлі, навучаныя з нуля, у большасці задач. Гэта дэманструе, што самастойная папярэдняя навучка сапраўды забяспечвае гіперспектральныя мадэлі больш стабільнымі і пераноснымі магчымасцямі структурнага прадстаўлення.
Табліца 1. Параўнанне вынікаў рэпрадукцыі
Пры рэальным узнаўленні MAE (версія ViT-S) і яго ацэнцы на наступных задачах перавагі папярэдняга навучання відавочна відавочныя. Па-першае, мадэль хутчэй збліжаецца і працуе больш стабільна ў сцэнарах з невялікімі выбаркамі. Па-другое, ваганні прадукцыйнасці меншыя на міжрэгіянальных наборах дадзеных, што сведчыць аб тым, што мадэль вывучае не канкрэтныя асаблівасці размеркавання дадзеных, а больш агульную інфармацыю аб спектральнай структуры. Асабліва ў задачах ідэнтыфікацыі сельскагаспадарчых культур і класіфікацыі лясоў магчымасці спектральнага мадэлявання становяцца ключавым фактарам павышэння прадукцыйнасці.