論文の概要: Enhancing Self-Supervised Learning for Remote Sensing with Elevation
Data: A Case Study with Scarce And High Level Semantic Labels
- arxiv url: http://arxiv.org/abs/2304.06857v3
- Date: Tue, 20 Feb 2024 02:29:37 GMT
- ステータス: 処理完了
- システム内更新日: 2024-02-21 21:45:49.715829
- Title: Enhancing Self-Supervised Learning for Remote Sensing with Elevation
Data: A Case Study with Scarce And High Level Semantic Labels
- Title（参考訳）: 標高データを用いた遠隔センシングのための自己指導型学習の強化:スカースと高レベルセマンティックラベルを用いた事例
- Authors: Omar A. Casta\~no-Idarraga, Raul Ramos-Poll\'an, Freddie Kalaitzis
- Abstract要約: 本研究は、地球観測下流タスクに適用された事前学習モデルに対する、教師なしと教師なしのハイブリッド学習手法を提案する。
我々は、事前訓練モデルに対する対照的なアプローチと画素単位の回帰事前テキストタスクを組み合わせることで、粗い標高マップを予測する。
- 参考スコア（独自算出の注目度）: 1.534667887016089
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This work proposes a hybrid unsupervised and supervised learning method to
pre-train models applied in Earth observation downstream tasks when only a
handful of labels denoting very general semantic concepts are available. We
combine a contrastive approach to pre-train models with a pixel-wise regression
pre-text task to predict coarse elevation maps, which are commonly available
worldwide. We hypothesize that this will allow the model to pre-learn useful
representations, as there is generally some correlation between elevation maps
and targets in many remote sensing tasks. We assess the performance of our
approach on a binary semantic segmentation task and a binary image
classification task, both derived from a dataset created for the northwest of
Colombia. In both cases, we pre-train our models with 39k unlabeled images,
fine-tune them on the downstream tasks with only 80 labeled images, and
evaluate them with 2944 labeled images. Our experiments show that our methods,
GLCNet+Elevation for segmentation, and SimCLR+Elevation for classification,
outperform their counterparts without the pixel-wise regression pre-text task,
namely SimCLR and GLCNet, in terms of macro-average F1 Score and Mean
Intersection over Union (MIoU). Our study not only encourages the development
of pre-training methods that leverage readily available geographical
information, such as elevation data, to enhance the performance of
self-supervised methods when applied to Earth observation tasks, but also
promotes the use of datasets with high-level semantic labels, which are more
likely to be updated frequently. Project code can be found in this link
\href{https://github.com/omarcastano/Elevation-Aware-SSL}{https://github.com/omarcastano/Elevation-Aware-SSL}.
- Abstract（参考訳）: 本研究は,地球観測ダウンストリームタスクに適用される事前学習モデルに対して,非常に一般的な意味概念を示すラベルのみを付与する,教師なし・教師なしのハイブリッド学習手法を提案する。
プレトレインモデルに対する対照的なアプローチと画素単位の回帰事前テキストタスクを組み合わせることで、世界中に広く見られる粗い標高マップを予測する。
多くのリモートセンシングタスクにおいて、概して高度マップと目標との間には相関関係があるため、このモデルで有用な表現を事前学習できるという仮説を立てる。
コロンビア北西部で作成されたデータセットから得られた2値意味セグメンテーションタスクと2値画像分類タスクのアプローチの性能を評価する。
どちらの場合も、39kのラベル付き画像でモデルを事前訓練し、80のラベル付き画像で下流タスクで微調整し、2944のラベル付き画像で評価する。
提案手法は,マクロ平均値f1スコアと平均交叉点(miou)の点で,ピクセル毎回帰前文課題であるsimclrとglcnetを伴わずに,セグメンテーションのためのglcnet+elevationと分類のためのsimclr+elevationを上回っている。
本研究は,地球観測タスクに適用した場合の自己監督手法の性能を高めるために,標高データなどの容易に利用できる地理情報を活用する事前学習手法の開発を奨励するだけでなく,頻繁に更新される可能性が高い高レベルのセマンティックラベルを用いたデータセットの利用を促進する。
プロジェクトコードは、このリンクにある。 \href{https://github.com/omarcastano/elevation-aware-ssl}{https://github.com/omarcastano/elevation-aware-ssl}。
関連論文リスト
- Auxiliary Tasks Enhanced Dual-affinity Learning for Weakly Supervised
Semantic Segmentation [79.05949524349005]
AuxSegNet+は、サリエンシマップから豊富な情報を探索する弱教師付き補助学習フレームワークである。
また,サリエンシとセグメンテーションの特徴マップから画素レベルの親和性を学習するためのクロスタスク親和性学習機構を提案する。
論文 参考訳（メタデータ） (2024-03-02T10:03:21Z) - A Semi-Paired Approach For Label-to-Image Translation [6.888253564585197]
ラベル・ツー・イメージ翻訳のための半教師付き(半ペア)フレームワークを初めて紹介する。
半ペア画像設定では、小さなペアデータとより大きなペア画像とラベルのセットにアクセスすることができる。
本稿では,この共有ネットワークのためのトレーニングアルゴリズムを提案し,非表現型クラスに着目した希少なクラスサンプリングアルゴリズムを提案する。
論文 参考訳（メタデータ） (2023-06-23T16:13:43Z) - CSP: Self-Supervised Contrastive Spatial Pre-Training for
Geospatial-Visual Representations [90.50864830038202]
ジオタグ付き画像の自己教師型学習フレームワークであるContrastive Spatial Pre-Training(CSP)を提案する。
デュアルエンコーダを用いて画像とその対応する位置情報を別々に符号化し、コントラスト目的を用いて画像から効果的な位置表現を学習する。
CSPは、様々なラベル付きトレーニングデータサンプリング比と10～34%の相対的な改善で、モデル性能を大幅に向上させる。
論文 参考訳（メタデータ） (2023-05-01T23:11:18Z) - Location-Aware Self-Supervised Transformers [74.76585889813207]
画像部品の相対的な位置を予測し,セマンティックセグメンテーションのためのネットワークを事前訓練する。
参照パッチのサブセットを問合せのサブセットにマスキングすることで,タスクの難しさを制御します。
実験により,この位置認識事前学習が,いくつかの難解なセマンティックセグメンテーションベンチマークに競合する表現をもたらすことが示された。
論文 参考訳（メタデータ） (2022-12-05T16:24:29Z) - Remote Sensing Images Semantic Segmentation with General Remote Sensing
Vision Model via a Self-Supervised Contrastive Learning Method [13.479068312825781]
リモートセマンティックセグメンテーションのためのGlobal style and Local matching Contrastive Learning Network (GLCNet)を提案する。
具体的には、画像レベルの表現をより良く学習するために、グローバルスタイルのコントラストモジュールが使用される。
コントラストモジュールにマッチするローカル特徴は、セマンティックセグメンテーションに有用なローカル領域の表現を学習するために設計されている。
論文 参考訳（メタデータ） (2021-06-20T03:03:40Z) - Semantic Segmentation with Generative Models: Semi-Supervised Learning
and Strong Out-of-Domain Generalization [112.68171734288237]
本論文では,画像とラベルの再生モデルを用いた識別画素レベルのタスクのための新しいフレームワークを提案する。
我々は,共同画像ラベルの分布を捕捉し,未ラベル画像の大規模な集合を用いて効率的に訓練する生成的対向ネットワークを学習する。
ドメイン内性能をいくつかのベースラインと比較し,ドメイン外一般化を極端に示す最初の例である。
論文 参考訳（メタデータ） (2021-04-12T21:41:25Z) - Group-Wise Semantic Mining for Weakly Supervised Semantic Segmentation [49.90178055521207]
この研究は、画像レベルのアノテーションとピクセルレベルのセグメンテーションのギャップを埋めることを目標に、弱い監督されたセマンティックセグメンテーション(WSSS)に対処する。
画像群における意味的依存関係を明示的にモデル化し,より信頼性の高い擬似的基盤構造を推定する,新たなグループ学習タスクとしてWSSSを定式化する。
特に、入力画像がグラフノードとして表現されるグループ単位のセマンティックマイニングのためのグラフニューラルネットワーク(GNN)を考案する。
論文 参考訳（メタデータ） (2020-12-09T12:40:13Z) - RGB-based Semantic Segmentation Using Self-Supervised Depth Pre-Training [77.62171090230986]
本稿では,任意の意味的RGBセグメンテーション手法の事前学習に使用できる,スケーラブルで自己管理の容易な手法を提案する。
特に、我々の事前学習アプローチでは、深度センサーを用いて得られるラベルを自動生成する。
提案したHNラベルによる自己教師付き事前学習が,ImageNetの事前学習にどのように応用できるかを示す。
論文 参考訳（メタデータ） (2020-02-06T11:16:24Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。