論文の概要: Evaluating the Label Efficiency of Contrastive Self-Supervised Learning
for Multi-Resolution Satellite Imagery
- arxiv url: http://arxiv.org/abs/2210.06786v1
- Date: Thu, 13 Oct 2022 06:54:13 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-14 15:13:32.188691
- Title: Evaluating the Label Efficiency of Contrastive Self-Supervised Learning
for Multi-Resolution Satellite Imagery
- Title(参考訳): 多解像度衛星画像における対比自己監督学習のラベル効率の評価
- Authors: Jules BOURCIER (Thoth), Gohar Dashyan, Jocelyn Chanussot (Thoth),
Karteek Alahari (Thoth)
- Abstract要約: 遠隔センシング領域における自己教師付き学習は、容易に利用可能なラベル付きデータを活用するために応用されている。
本稿では,ラベル効率のレンズを用いた自己教師型視覚表現学習について検討する。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: The application of deep neural networks to remote sensing imagery is often
constrained by the lack of ground-truth annotations. Adressing this issue
requires models that generalize efficiently from limited amounts of labeled
data, allowing us to tackle a wider range of Earth observation tasks. Another
challenge in this domain is developing algorithms that operate at variable
spatial resolutions, e.g., for the problem of classifying land use at different
scales. Recently, self-supervised learning has been applied in the remote
sensing domain to exploit readily-available unlabeled data, and was shown to
reduce or even close the gap with supervised learning. In this paper, we study
self-supervised visual representation learning through the lens of label
efficiency, for the task of land use classification on
multi-resolution/multi-scale satellite images. We benchmark two contrastive
self-supervised methods adapted from Momentum Contrast (MoCo) and provide
evidence that these methods can be perform effectively given little downstream
supervision, where randomly initialized networks fail to generalize. Moreover,
they outperform out-of-domain pretraining alternatives. We use the large-scale
fMoW dataset to pretrain and evaluate the networks, and validate our
observations with transfer to the RESISC45 dataset.
- Abstract(参考訳): リモートセンシング画像へのディープニューラルネットワークの適用は、しばしば地対地アノテーションの欠如によって制限される。
この問題に対処するには、限られた量のラベル付きデータから効率的に一般化するモデルが必要です。
この領域における別の課題は、異なるスケールで土地利用を分類する問題など、可変空間分解能で動作するアルゴリズムの開発である。
近年,自己教師あり学習が遠隔センシング領域で適用され,ラベルなしデータの利用が容易であり,教師あり学習によるギャップの縮小や閉鎖が示されている。
本稿では,多解像度・マルチスケール衛星画像の土地利用分類のためのラベル効率のレンズを用いた自己教師型視覚表現学習について検討する。
我々は,モメンタムコントラスト(moco)から適応した2つのコントラスト自己教師付き手法をベンチマークし,ランダム初期化ネットワークの一般化に失敗し,下流管理がほとんど行われないことを実証する。
さらに、ドメイン外の事前訓練の代替よりも優れています。
大規模なfMoWデータセットを用いて、ネットワークの事前トレーニングと評価を行い、RESISC45データセットへの転送による観測を検証する。
関連論文リスト
- Terrain-Informed Self-Supervised Learning: Enhancing Building Footprint Extraction from LiDAR Data with Limited Annotations [1.3243401820948064]
フットプリントマップの構築は、広範な後処理なしで正確なフットプリント抽出を約束する。
ディープラーニング手法は、一般化とラベルの効率の面で課題に直面している。
リモートセンシングに適した地形認識型自己教師型学習を提案する。
論文 参考訳(メタデータ) (2023-11-02T12:34:23Z) - In-Domain Self-Supervised Learning Improves Remote Sensing Image Scene
Classification [5.323049242720532]
リモートセンシング画像分類のための有望なアプローチとして,自己教師付き学習が登場している。
そこで本研究では,14の下流データセットにまたがる自己教師型事前学習戦略について検討し,その効果を評価する。
論文 参考訳(メタデータ) (2023-07-04T10:57:52Z) - Domain Adaptable Self-supervised Representation Learning on Remote
Sensing Satellite Imagery [2.796274924103132]
本研究は,リモートセンシング衛星データを用いたコントラスト型自己教師型表現学習と知識伝達のための新しい領域パラダイムを提案する。
提案手法は,異なるソースおよび対象データ分布にまたがる自己教師付き表現の知識伝達について検討する。
UC Merced Landuse (UCMD)、SIRI-WHU、MLRSNetの3つの公開データセットで実験が行われた。
論文 参考訳(メタデータ) (2023-04-19T14:32:36Z) - Deep face recognition with clustering based domain adaptation [57.29464116557734]
そこで本研究では,ターゲットドメインとソースがクラスを共有しない顔認識タスクを対象とした,クラスタリングに基づく新しいドメイン適応手法を提案する。
本手法は,特徴領域をグローバルに整列させ,その一方で,対象クラスタを局所的に識別することで,識別対象特徴を効果的に学習する。
論文 参考訳(メタデータ) (2022-05-27T12:29:11Z) - Clustering augmented Self-Supervised Learning: Anapplication to Land
Cover Mapping [10.720852987343896]
本稿では,自己教師型学習のためのクラスタリングに基づくプレテキストタスクを用いて,土地被覆マッピングの新しい手法を提案する。
社会的に関係のある2つのアプリケーションに対して,本手法の有効性を示す。
論文 参考訳(メタデータ) (2021-08-16T19:35:43Z) - Coarse to Fine: Domain Adaptive Crowd Counting via Adversarial Scoring
Network [58.05473757538834]
本稿では,ドメイン間のギャップを粗い粒度から細かな粒度に埋める新しい逆スコアリングネットワーク (ASNet) を提案する。
3組のマイグレーション実験により,提案手法が最先端のカウント性能を実現することを示す。
論文 参考訳(メタデータ) (2021-07-27T14:47:24Z) - Seasonal Contrast: Unsupervised Pre-Training from Uncurated Remote
Sensing Data [64.40187171234838]
季節的コントラスト(SeCo)は、リモートセンシング表現のドメイン内事前トレーニングにラベルのないデータを活用するための効果的なパイプラインである。
SeCoは、転送学習を容易にし、再リモートセンシングアプリケーションの急速な進歩を可能にするために公開されます。
論文 参考訳(メタデータ) (2021-03-30T18:26:39Z) - Learning a Domain-Agnostic Visual Representation for Autonomous Driving
via Contrastive Loss [25.798361683744684]
ドメイン認識コントラスト学習(Domain-Agnostic Contrastive Learning、DACL)は、2段階の非監視ドメイン適応フレームワークである。
提案手法は,従来の最新手法に比べ,単眼深度推定作業における性能向上を実現した。
論文 参考訳(メタデータ) (2021-03-10T07:06:03Z) - Unsupervised Metric Relocalization Using Transform Consistency Loss [66.19479868638925]
メートル法再ローカライズを行うためのトレーニングネットワークは、従来、正確な画像対応が必要である。
地図内のクエリ画像のローカライズは、登録に使用される参照画像に関係なく、同じ絶対的なポーズを与えるべきである。
提案手法は, 限られた地下構造情報が得られる場合に, 他の教師あり手法よりも優れていることを示す。
論文 参考訳(メタデータ) (2020-11-01T19:24:27Z) - A Review of Single-Source Deep Unsupervised Visual Domain Adaptation [81.07994783143533]
大規模ラベル付きトレーニングデータセットにより、ディープニューラルネットワークは、幅広いベンチマークビジョンタスクを拡張できるようになった。
多くのアプリケーションにおいて、大量のラベル付きデータを取得するのは非常に高価で時間を要する。
限られたラベル付きトレーニングデータに対処するため、大規模ラベル付きソースドメインでトレーニングされたモデルを、疎ラベルまたは未ラベルのターゲットドメインに直接適用しようと試みている人も多い。
論文 参考訳(メタデータ) (2020-09-01T00:06:50Z) - Laplacian Denoising Autoencoder [114.21219514831343]
本稿では,新しいタイプの自動符号化器を用いてデータ表現を学習することを提案する。
勾配領域における潜伏クリーンデータを破損させて雑音入力データを生成する。
いくつかのビジュアルベンチマークの実験では、提案されたアプローチでより良い表現が学べることが示されている。
論文 参考訳(メタデータ) (2020-03-30T16:52:39Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。