論文の概要: Active Learning Guided Fine-Tuning for enhancing Self-Supervised Based
Multi-Label Classification of Remote Sensing Images
- arxiv url: http://arxiv.org/abs/2306.06908v1
- Date: Mon, 12 Jun 2023 07:26:21 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-13 15:48:42.068344
- Title: Active Learning Guided Fine-Tuning for enhancing Self-Supervised Based
Multi-Label Classification of Remote Sensing Images
- Title（参考訳）: リモートセンシング画像の自己監督型マルチラベル分類のための能動的学習指導ファインチューニング
- Authors: Lars M\"ollenbrok and Beg\"um Demir
- Abstract要約: 自己教師付き事前学習と、ランダムに選択された小さなトレーニングセットの微調整を組み合わせることで、アノテーションの取り組みを最小限に抑えるための一般的なアプローチとなっている。
能動学習による自己指導型プレトレーニング(AL)の併用効果について検討する。
実験により,ランダムに構築した小型トレーニングセットを用いた微調整と比較して,AL誘導微調整の有効性が示された。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In recent years, deep neural networks (DNNs) have been found very successful
for multi-label classification (MLC) of remote sensing (RS) images.
Self-supervised pre-training combined with fine-tuning on a randomly selected
small training set has become a popular approach to minimize annotation efforts
of data-demanding DNNs. However, fine-tuning on a small and biased training set
may limit model performance. To address this issue, we investigate the
effectiveness of the joint use of self-supervised pre-training with active
learning (AL). The considered AL strategy aims at guiding the MLC fine-tuning
of a self-supervised model by selecting informative training samples to
annotate in an iterative manner. Experimental results show the effectiveness of
applying AL-guided fine-tuning (particularly for the case where strong
class-imbalance is present in MLC problems) compared to the application of
fine-tuning using a randomly constructed small training set.
- Abstract（参考訳）: 近年、ディープニューラルネットワーク(DNN)は、リモートセンシング(RS)画像のマルチラベル分類(MLC)において非常に成功している。
自己教師付き事前学習とランダムに選択された小さなトレーニングセットの微調整を組み合わせることで、データ要求DNNのアノテーション作業を最小化するための一般的なアプローチとなっている。
しかし、小さな偏りのあるトレーニングセットの微調整は、モデルの性能を制限する可能性がある。
この問題に対処するために,能動学習(AL)による自己指導型プレトレーニングの併用の有効性を検討した。
AL戦略は,自己教師型モデルのMDC微調整を指導するために,反復的にアノテートするための情報的トレーニングサンプルを選択する。
実験の結果,AL誘導ファインチューニング(特にMLC問題に強いクラスバランスが存在する場合)をランダムに構築した小さなトレーニングセットを用いたファインチューニングに適用した場合の有効性が示された。
関連論文リスト
- Enhancing Robustness of Vision-Language Models through Orthogonality Learning and Self-Regularization [77.62516752323207]
そこで本研究では,事前訓練した重みを効率よく微調整する直交微調整法を導入し,頑健さと一般化の強化を実現した。
自己正規化戦略は、OrthSRと呼ばれるVLMのゼロショット一般化の観点から安定性を維持するためにさらに活用される。
筆者らはCLIPとCoOpを再検討し,少数の画像のクラスフィシエーションシナリオにおけるモデルの改善を効果的に行う。
論文 参考訳（メタデータ） (2024-07-11T10:35:53Z) - CALICO: Confident Active Learning with Integrated Calibration [11.978551396144532]
トレーニングプロセス中にサンプル選択に使用される信頼度を自己校正するALフレームワークを提案する。
ラベル付きサンプルが少ないソフトマックス分類器と比較して,分類性能が向上した。
論文 参考訳（メタデータ） (2024-07-02T15:05:19Z) - Rethinking Classifier Re-Training in Long-Tailed Recognition: A Simple
Logits Retargeting Approach [102.0769560460338]
我々は,クラスごとのサンプル数に関する事前知識を必要とせず,シンプルなロジットアプローチ(LORT)を開発した。
提案手法は,CIFAR100-LT, ImageNet-LT, iNaturalist 2018など,様々な不均衡データセットの最先端性能を実現する。
論文 参考訳（メタデータ） (2024-03-01T03:27:08Z) - Learning with Noisy Labels Using Collaborative Sample Selection and
Contrastive Semi-Supervised Learning [76.00798972439004]
Collaborative Sample Selection (CSS)は、特定されたクリーンセットからノイズの多いサンプルを削除する。
半教師付き学習において、対照的な損失を伴う協調学習機構を導入する。
論文 参考訳（メタデータ） (2023-10-24T05:37:20Z) - Effective and Efficient Training for Sequential Recommendation using
Recency Sampling [91.02268704681124]
本稿では,新しいRecency-based Smpling of Sequencesトレーニング目標を提案する。
提案手法により拡張されたモデルにより,最先端のBERT4Recに近い性能が得られることを示す。
論文 参考訳（メタデータ） (2022-07-06T13:06:31Z) - Active Learning at the ImageNet Scale [43.595076693347835]
本研究では,画像ネット上でのアクティブラーニング(AL)と事前学習(SSP)の組み合わせについて検討する。
学習者が選択したクラス不均衡なサンプルから,小型の玩具データセットのパフォーマンスがImageNetのパフォーマンスを表すものではないことが判明した。
本稿では、ランダムサンプリングを一貫して上回る、単純でスケーラブルなALアルゴリズムであるBa balanced Selection (BASE)を提案する。
論文 参考訳（メタデータ） (2021-11-25T02:48:51Z) - Active Learning for Deep Visual Tracking [51.5063680734122]
畳み込みニューラルネットワーク(CNN)は近年,単一目標追跡タスクに成功している。
本稿では,ディープ・ビジュアル・トラッキングのためのアクティブ・ラーニング手法を提案する。
アクティブラーニングの指導のもと、トレーニングされた深層CNNモデルに基づくトラッカーは、ラベリングコストを低減しつつ、競合的なトラッキング性能を達成することができる。
論文 参考訳（メタデータ） (2021-10-17T11:47:56Z) - Reducing Label Effort: Self-Supervised meets Active Learning [32.4747118398236]
自己学習の最近の進歩は、いくつかのデータセットで教師付き学習に匹敵する非常に印象的な成果を上げている。
実験の結果, 自己学習は, ラベル付け作業の削減において, 積極的学習よりも極めて効率的であることが判明した。
自己学習またはスクラッチでトレーニングされたアクティブラーニングのパフォーマンスギャップは、データセットのほぼ半分がラベル付けされた時点に近づくにつれて減少します。
論文 参考訳（メタデータ） (2021-08-25T20:04:44Z) - Gone Fishing: Neural Active Learning with Fisher Embeddings [55.08537975896764]
ディープニューラルネットワークと互換性のあるアクティブな学習アルゴリズムの必要性が高まっている。
本稿では,ニューラルネットワークのための抽出可能かつ高性能な能動学習アルゴリズムBAITを紹介する。
論文 参考訳（メタデータ） (2021-06-17T17:26:31Z) - MUSCLE: Strengthening Semi-Supervised Learning Via Concurrent
Unsupervised Learning Using Mutual Information Maximization [29.368950377171995]
我々は、教師なし学習と半教師なし学習を併用するために、相互情報に基づく教師なし・半教師付き並行学習(MUSCLE)を導入する。
MUSCLEはニューラルネットワークのスタンドアロントレーニングスキームとして使用することができ、他の学習手法にも組み込むことができる。
提案手法は,CIFAR-10,CIFAR-100,Mini-Imagenetなど,いくつかの標準ベンチマークにおいて,その性能に優れることを示す。
論文 参考訳（メタデータ） (2020-11-30T23:01:04Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。