論文の概要: Continual Barlow Twins: continual self-supervised learning for remote
sensing semantic segmentation
- arxiv url: http://arxiv.org/abs/2205.11319v1
- Date: Mon, 23 May 2022 14:02:12 GMT
- ステータス: 処理完了
- システム内更新日: 2022-05-25 05:02:21.094032
- Title: Continual Barlow Twins: continual self-supervised learning for remote
sensing semantic segmentation
- Title(参考訳): 連続的Barlow Twins:リモートセマンティックセグメンテーションのための連続的自己教師型学習
- Authors: Valerio Marsocci, Simone Scardapane
- Abstract要約: リモートセンシングアプリケーションにSSL(Self-Supervised Learning)とCL(Continual Learning)を併用するアルゴリズムを提案し,CBT(Continual Barlow Twins)と呼ぶ。
CBTは、バラ・ツインズ(Barlow Twins)という最も単純な自己超越技法の1つと、破滅的な忘れ物を避けるための弾性重み統合法(Elastic Weight Consolidation)の利点を組み合わせている。
高度に異質な地球観測データセット上でSSL手法を初めて評価し,これらの戦略の有効性を示した。
- 参考スコア(独自算出の注目度): 8.775728170359024
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In the field of Earth Observation (EO), Continual Learning (CL) algorithms
have been proposed to deal with large datasets by decomposing them into several
subsets and processing them incrementally. The majority of these algorithms
assume that data is (a) coming from a single source, and (b) fully labeled.
Real-world EO datasets are instead characterized by a large heterogeneity
(e.g., coming from aerial, satellite, or drone scenarios), and for the most
part they are unlabeled, meaning they can be fully exploited only through the
emerging Self-Supervised Learning (SSL) paradigm. For these reasons, in this
paper we propose a new algorithm for merging SSL and CL for remote sensing
applications, that we call Continual Barlow Twins (CBT). It combines the
advantages of one of the simplest self-supervision techniques, i.e., Barlow
Twins, with the Elastic Weight Consolidation method to avoid catastrophic
forgetting. In addition, for the first time we evaluate SSL methods on a highly
heterogeneous EO dataset, showing the effectiveness of these strategies on a
novel combination of three almost non-overlapping domains datasets (airborne
Potsdam dataset, satellite US3D dataset, and drone UAVid dataset), on a crucial
downstream task in EO, i.e., semantic segmentation. Encouraging results show
the superiority of SSL in this setting, and the effectiveness of creating an
incremental effective pretrained feature extractor, based on ResNet50, without
the need of relying on the complete availability of all the data, with a
valuable saving of time and resources.
- Abstract(参考訳): 地球観測(EO)の分野では、連続学習(CL)アルゴリズムがいくつかのサブセットに分解して段階的に処理することで、大規模なデータセットを扱うように提案されている。
これらのアルゴリズムの大多数はデータが
(a)1つのソースから来ていること、
(b)完全ラベル付き。
現実のEOデータセットは、代わりに大きな異種性(例えば、空中、衛星、ドローンのシナリオから来る)によって特徴づけられ、ほとんどはラベルが付けられていない。
そこで本稿では,リモートセンシングアプリケーションにSSLとCLを併用するアルゴリズムを提案し,これを連続バーローツイン (Continuous Barlow Twins, CBT) と呼ぶ。
これは、バラ・ツインズ(Barlow Twins)という最も単純な自己超越技法の1つと、破滅的な忘れ物を避けるための弾性重み統合法(Elastic Weight Consolidation)の利点を組み合わせたものである。
さらに,非常に異種なeoデータセット上のssl手法を初めて評価し,これら戦略がeoにおける重要な下流課題,すなわち意味セグメンテーションにおいて,ほぼ重複しない3つのドメインデータセット(エアボーンポツダムデータセット,サテライトus3dデータセット,ドローンuavidデータセット)の新たな組み合わせ,すなわちセマンティックセグメンテーションにおいて有効であることを示した。
この環境でのSSLの優位性と、ResNet50をベースにしたインクリメンタルに効果的に事前訓練された機能抽出器を作成する効果は、すべてのデータの完全な可用性に頼らずに、貴重な時間とリソースを節約できることを示している。
関連論文リスト
- Towards Satellite Non-IID Imagery: A Spectral Clustering-Assisted Federated Learning Approach [29.593406320684448]
低軌道(LEO)衛星は、様々なモノのインターネット(IoT)アプリケーションを実現するために、豊富な地球観測データ(EOD)を集めることができる。
効率的なEDD処理機構を実現するためには,1) 衛星と地上局の接続が間欠的であるため,大規模なデータを地上に送信することなく観測データを処理すること,2) 非独立で同一の(非IID)衛星データを処理すること,の課題を検討する必要がある。
軌道を用いたスペクトルクラスタリングによるクラスタリング型自己知識蒸留(OSC-FSKD)を提案する。
論文 参考訳(メタデータ) (2024-10-17T14:36:58Z) - Semi-Supervised One-Shot Imitation Learning [83.94646047695412]
ワンショットのImitation Learningは、AIエージェントに1つのデモから新しいタスクを学ぶ能力を持たせることを目的としている。
我々は,学習エージェントにトラジェクトリの大規模なデータセットを提示する,半教師付きOSIL問題設定を導入する。
我々は,この半教師付きOSIL設定に適用可能なアルゴリズムを開発した。
論文 参考訳(メタデータ) (2024-08-09T18:11:26Z) - Does Decentralized Learning with Non-IID Unlabeled Data Benefit from
Self Supervision? [51.00034621304361]
自己教師型学習(SSL)のレンズによるラベルなしデータによる分散学習の研究
本研究では,分散学習環境下でのコントラスト学習アルゴリズムの有効性について検討する。
論文 参考訳(メタデータ) (2022-10-20T01:32:41Z) - Semantic Segmentation with Active Semi-Supervised Representation
Learning [23.79742108127707]
我々はラベル付きデータよりもはるかに少ない効果的なセマンティックセグメンテーションアルゴリズムを訓練する。
半教師あり学習のための平均教師アプローチを自己学習アプローチに置き換えることで、従来のS4ALアルゴリズムを拡張した。
セマンティックセグメンテーションのためのアクティブラーニングのためのデファクト標準であるCamVidおよびCityScapesデータセットについて,本手法の評価を行った。
論文 参考訳(メタデータ) (2022-10-16T00:21:43Z) - Bi-level Alignment for Cross-Domain Crowd Counting [113.78303285148041]
現在の手法は、補助的なタスクを訓練したり、高価な粗大な見積もりを適用したりするための外部データに依存している。
そこで我々は, 簡易かつ効率的に適用可能な, 逆学習に基づく新しい手法を開発した。
実世界の5つのクラウドカウントベンチマークに対するアプローチを評価し、既存のアプローチを大きなマージンで上回ります。
論文 参考訳(メタデータ) (2022-05-12T02:23:25Z) - Open-Set Semi-Supervised Learning for 3D Point Cloud Understanding [62.17020485045456]
半教師付き学習(SSL)では、ラベル付きデータと同じ分布からラベル付きデータが引き出されることが一般的である。
サンプル重み付けによりラベルなしデータを選択的に活用することを提案する。
論文 参考訳(メタデータ) (2022-05-02T16:09:17Z) - Meta Clustering Learning for Large-scale Unsupervised Person
Re-identification [124.54749810371986]
メタクラスタリング学習(MCL)と呼ばれる「大規模タスクのための小さなデータ」パラダイムを提案する。
MCLは、第1フェーズのトレーニングのためにコンピューティングを節約するためにクラスタリングを介して、未ラベルデータのサブセットを擬似ラベル付けするのみである。
提案手法は計算コストを大幅に削減すると同時に,従来よりも優れた性能を実現している。
論文 参考訳(メタデータ) (2021-11-19T04:10:18Z) - Relieving the Plateau: Active Semi-Supervised Learning for a Better
Landscape [2.3046646540823916]
semi-supervised learning (ssl) はラベル付きデータよりもアクセスしやすいラベルなしデータを活用する。
active learning (al)は、ラベルなしのインスタンスを選択して、ラベル付きデータの少ないパフォーマンスを期待する。
本稿では,ラベル付き集合を含む問題条件を改善するためにラベル付きデータを選択するALアルゴリズムである収束率制御(CRC)を提案する。
論文 参考訳(メタデータ) (2021-04-08T06:03:59Z) - Learning to Count in the Crowd from Limited Labeled Data [109.2954525909007]
我々は,限られた数のラベル付きサンプルから参加者を数えることを学ぶことで,アノテーションの努力を減らすことに重点を置いている。
具体的には,未ラベルデータに対する擬似地下真理推定を含むガウス過程に基づく反復学習機構を提案する。
論文 参考訳(メタデータ) (2020-07-07T04:17:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。