論文の概要: Self-training via Metric Learning for Source-Free Domain Adaptation of
Semantic Segmentation
- arxiv url: http://arxiv.org/abs/2212.04227v1
- Date: Thu, 8 Dec 2022 12:20:35 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-09 14:56:06.796184
- Title: Self-training via Metric Learning for Source-Free Domain Adaptation of
Semantic Segmentation
- Title(参考訳): 意味セグメンテーションのソースフリー領域適応のためのメトリック学習による自己学習
- Authors: Ibrahim Batuhan Akkaya and Ugur Halici
- Abstract要約: ソースのないシナリオでは、監視はターゲットデータからのみ行われ、閾値付けは自己学習の貢献を制限する。
本稿では,プロキシに基づくメトリクス学習を用いて信頼性を推定する手法を提案する。
- 参考スコア(独自算出の注目度): 5.076419064097734
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Unsupervised source-free domain adaptation methods aim to train a model to be
used in the target domain utilizing the pretrained source-domain model and
unlabeled target-domain data, where the source data may not be accessible due
to intellectual property or privacy issues. These methods frequently utilize
self-training with pseudo-labeling thresholded by prediction confidence. In a
source-free scenario, only supervision comes from target data, and thresholding
limits the contribution of the self-training. In this study, we utilize
self-training with a mean-teacher approach. The student network is trained with
all predictions of the teacher network. Instead of thresholding the
predictions, the gradients calculated from the pseudo-labels are weighted based
on the reliability of the teacher's predictions. We propose a novel method that
uses proxy-based metric learning to estimate reliability. We train a metric
network on the encoder features of the teacher network. Since the teacher is
updated with the moving average, the encoder feature space is slowly changing.
Therefore, the metric network can be updated in training time, which enables
end-to-end training. We also propose a metric-based online ClassMix method to
augment the input of the student network where the patches to be mixed are
decided based on the metric reliability. We evaluated our method in
synthetic-to-real and cross-city scenarios. The benchmarks show that our method
significantly outperforms the existing state-of-the-art methods.
- Abstract(参考訳): unsupervised source-free domain adaptation methodは、事前にトレーニングされたソースドメインモデルとラベルなしのターゲットドメインデータを使用して、ターゲットドメインで使用するモデルをトレーニングすることを目的としている。
これらの手法は、予測信頼度によって閾値付けられた擬似ラベルによる自己学習を頻繁に活用する。
ソースのないシナリオでは、監視はターゲットデータからのみ行われ、閾値付けは自己学習の貢献を制限する。
本研究では,自己学習を平均教師アプローチで活用する。
学生ネットワークは教師ネットワークの全ての予測で訓練される。
予測を閾値付けする代わりに、擬似ラベルから算出した勾配を教師の予測の信頼性に基づいて重み付けする。
本稿では,信頼度推定にプロキシベースメトリック学習を用いた新しい手法を提案する。
教師ネットワークのエンコーダの特徴に基づいてメトリックネットワークを訓練する。
教師は移動平均で更新されるので、エンコーダの特徴空間はゆっくりと変化している。
したがって、メトリックネットワークはトレーニング時間内に更新され、エンドツーエンドのトレーニングが可能になる。
また、メトリックの信頼性に基づいてパッチを混合する学生ネットワークの入力量を増やすためのメトリックベースのオンラインクラスMix手法を提案する。
本手法を都市間および都市間シナリオで評価した。
評価の結果,提案手法は既存の最先端手法よりも優れていた。
関連論文リスト
- Self-Supervised Learning for Covariance Estimation [3.04585143845864]
推論時に局所的に適用されるニューラルネットワークをグローバルに学習することを提案する。
アーキテクチャは、一般的な注目メカニズムに基づいている。
基礎モデルとして事前訓練し、レーダーやハイパースペクトル画像の適応目標検出など、様々な下流タスクに再利用することができる。
論文 参考訳(メタデータ) (2024-03-13T16:16:20Z) - Online Distributed Learning with Quantized Finite-Time Coordination [0.4910937238451484]
私たちの設定では、エージェントのセットは、ストリーミングデータから学習モデルを協調的にトレーニングする必要があります。
本稿では,量子化された有限時間協調プロトコルに依存する分散アルゴリズムを提案する。
提案アルゴリズムの性能を,オンラインソリューションからの平均距離の観点から解析する。
論文 参考訳(メタデータ) (2023-07-13T08:36:15Z) - Adapting the Mean Teacher for keypoint-based lung registration under
geometric domain shifts [75.51482952586773]
ディープニューラルネットワークは一般的に、ラベル付きトレーニングデータが多く必要であり、トレーニングデータとテストデータの間のドメインシフトに弱い。
本稿では,ラベル付きソースからラベル付きターゲットドメインへのモデルの適用により,画像登録のための幾何学的領域適応手法を提案する。
本手法は,ベースラインモデルの精度を目標データに適合させながら,ベースラインモデルの50%/47%を継続的に改善する。
論文 参考訳(メタデータ) (2022-07-01T12:16:42Z) - Self-Taught Metric Learning without Labels [47.832107446521626]
教師なしメトリック学習のための新しい自己学習フレームワークを提案する。
埋め込みモデルの移動平均を通してデータ間のクラス等価関係を予測し、予測された関係を擬似ラベルとして学習する。
論文 参考訳(メタデータ) (2022-05-04T05:48:40Z) - Leveraging Unlabeled Data to Predict Out-of-Distribution Performance [63.740181251997306]
実世界の機械学習デプロイメントは、ソース(トレーニング)とターゲット(テスト)ディストリビューションのミスマッチによって特徴づけられる。
本研究では,ラベル付きソースデータとラベルなしターゲットデータのみを用いて,対象領域の精度を予測する手法を検討する。
本稿では,モデルの信頼度をしきい値として学習し,精度をラベルなし例のごく一部として予測する実践的手法である平均閾値保持信頼度(ATC)を提案する。
論文 参考訳(メタデータ) (2022-01-11T23:01:12Z) - Ranking Distance Calibration for Cross-Domain Few-Shot Learning [91.22458739205766]
数ショット学習の最近の進歩は、より現実的なクロスドメイン設定を促進する。
ドメインギャップとソースとターゲットデータセット間のラベル空間の相違により、共有される知識は極めて限られている。
我々は,タスク内の相互k-アネレスト近傍を発見することで,目標距離行列の校正を行う。
論文 参考訳(メタデータ) (2021-12-01T03:36:58Z) - TraND: Transferable Neighborhood Discovery for Unsupervised Cross-domain
Gait Recognition [77.77786072373942]
本稿では、教師なしクロスドメイン歩行認識のための領域ギャップを橋渡しするTransferable Neighborhood Discovery (TraND) フレームワークを提案する。
我々は、潜在空間におけるラベルなしサンプルの自信ある近傍を自動的に発見するために、エンドツーエンドのトレーニング可能なアプローチを設計する。
提案手法は,CASIA-BとOU-LPの2つの公開データセットに対して,最先端の結果を得る。
論文 参考訳(メタデータ) (2021-02-09T03:07:07Z) - Source Data-absent Unsupervised Domain Adaptation through Hypothesis
Transfer and Labeling Transfer [137.36099660616975]
Unsupervised Adapt Adaptation (UDA) は、関連性のある異なるラベル付きソースドメインから新しいラベルなしターゲットドメインへの知識の転送を目標としている。
既存のudaメソッドの多くはソースデータへのアクセスを必要としており、プライバシ上の懸念からデータが機密で共有できない場合は適用できない。
本稿では、ソースデータにアクセスする代わりに、トレーニング済みの分類モデルのみを用いて現実的な設定に取り組むことを目的とする。
論文 参考訳(メタデータ) (2020-12-14T07:28:50Z) - Grasping Detection Network with Uncertainty Estimation for
Confidence-Driven Semi-Supervised Domain Adaptation [17.16216430459064]
本稿では,信頼駆動型半教師付き学習を用いた新たな把握検出ネットワークを通じて,ドメイン適応が容易なアプローチを提案する。
提案した把握検出ネットワークは,特徴ピラミッドネットワーク(FPN)を利用した予測不確実性推定機構を特に提供し,平均教師半教師学習は,そのような不確実性情報を利用して,信頼度の高い非競合データに対してのみ整合性損失を強調する。
提案したネットワークは,コーネル把握データセット上で高い成功率を達成できることを示すとともに,極めて限られたデータでドメイン適応を行う場合,信頼駆動型平均教師は,元の平均教師と直接訓練を10%以上向上させる。
論文 参考訳(メタデータ) (2020-08-20T07:42:45Z) - Understanding Self-Training for Gradual Domain Adaptation [107.37869221297687]
段階的なドメイン適応は、対象領域へ徐々にシフトするラベルのないデータのみを与えられたソースドメインで訓練された初期分類器を適応させることが目的である。
目標領域への直接適応が非有界誤差をもたらすような設定下において、段階的なシフトを伴う自己学習の誤差に対する最初の非無空上界を証明した。
この理論解析はアルゴリズムの洞察を導き、無限のデータを持つ場合でも正規化とラベルのシャープ化が不可欠であることを強調し、より小さなワッサーシュタイン無限距離のシフトに対して自己学習が特にうまく働くことを示唆している。
論文 参考訳(メタデータ) (2020-02-26T08:59:40Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。