論文の概要: Rectifying Pseudo Label Learning via Uncertainty Estimation for Domain
Adaptive Semantic Segmentation
- arxiv url: http://arxiv.org/abs/2003.03773v3
- Date: Thu, 15 Oct 2020 06:07:14 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-25 14:34:53.597662
- Title: Rectifying Pseudo Label Learning via Uncertainty Estimation for Domain
Adaptive Semantic Segmentation
- Title(参考訳): 領域適応セマンティックセマンティックセグメンテーションのための不確かさ推定による擬似ラベル学習
- Authors: Zhedong Zheng and Yi Yang
- Abstract要約: 本稿では、意味的セグメンテーションの文脈において、ソースドメインからターゲットドメインへの知識伝達の教師なし領域適応に焦点を当てる。
既存のアプローチでは、通常、擬似ラベルを未ラベルのターゲットドメインデータを完全に活用するための基礎的真理とみなす。
本稿では,擬似ラベル学習の修正のために,学習中の予測の不確かさを明示的に推定することを提案する。
- 参考スコア(独自算出の注目度): 49.295165476818866
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: This paper focuses on the unsupervised domain adaptation of transferring the
knowledge from the source domain to the target domain in the context of
semantic segmentation. Existing approaches usually regard the pseudo label as
the ground truth to fully exploit the unlabeled target-domain data. Yet the
pseudo labels of the target-domain data are usually predicted by the model
trained on the source domain. Thus, the generated labels inevitably contain the
incorrect prediction due to the discrepancy between the training domain and the
test domain, which could be transferred to the final adapted model and largely
compromises the training process. To overcome the problem, this paper proposes
to explicitly estimate the prediction uncertainty during training to rectify
the pseudo label learning for unsupervised semantic segmentation adaptation.
Given the input image, the model outputs the semantic segmentation prediction
as well as the uncertainty of the prediction. Specifically, we model the
uncertainty via the prediction variance and involve the uncertainty into the
optimization objective. To verify the effectiveness of the proposed method, we
evaluate the proposed method on two prevalent synthetic-to-real semantic
segmentation benchmarks, i.e., GTA5 -> Cityscapes and SYNTHIA -> Cityscapes, as
well as one cross-city benchmark, i.e., Cityscapes -> Oxford RobotCar. We
demonstrate through extensive experiments that the proposed approach (1)
dynamically sets different confidence thresholds according to the prediction
variance, (2) rectifies the learning from noisy pseudo labels, and (3) achieves
significant improvements over the conventional pseudo label learning and yields
competitive performance on all three benchmarks.
- Abstract(参考訳): 本稿では、意味的セグメンテーションの文脈において、ソースドメインからターゲットドメインへの知識伝達の教師なし領域適応に焦点を当てる。
既存のアプローチでは、通常、擬似ラベルを未ラベルのターゲットドメインデータを完全に活用するための基礎的真理とみなす。
しかし、ターゲットドメインデータの擬似ラベルは通常、ソースドメインでトレーニングされたモデルによって予測される。
これにより、生成されたラベルは、トレーニングドメインとテストドメインとの相違による誤予測を必然的に含み、最終適応モデルに転送することができ、トレーニングプロセスを大きく損なうことができる。
本稿では,教師なし意味セグメンテーション適応のための擬似ラベル学習を正すために,学習中の予測の不確かさを明示的に推定することを提案する。
入力画像が与えられた場合、モデルはセマンティックセグメンテーション予測と予測の不確実性を出力する。
具体的には,予測分散による不確かさをモデル化し,不確実性を最適化目標に含める。
提案手法の有効性を検証するために,gta5 ->都市景観とシンセシア ->都市景観の2つの一般的な合成・実意味セグメンテーションベンチマークと,都市横断ベンチマーク,すなわち都市景観 ->オックスフォードロボットカーについて評価を行った。
提案手法は,(1)予測のばらつきに応じて異なる信頼度閾値を動的に設定し,(2)うるさい擬似ラベルからの学習を補正し,(3)従来の擬似ラベル学習よりも大幅に改善し,3つのベンチマークすべてにおいて競合性能が得られることを示す。
関連論文リスト
- Adaptive Betweenness Clustering for Semi-Supervised Domain Adaptation [108.40945109477886]
分類領域アライメントを実現するために,G-ABC (Adaptive Betweenness Clustering) と呼ばれる新しいSSDA手法を提案する。
提案手法は従来のSSDA手法よりも優れており,提案したG-ABCアルゴリズムの優位性を示している。
論文 参考訳(メタデータ) (2024-01-21T09:57:56Z) - Domain Adaptive Object Detection via Balancing Between Self-Training and
Adversarial Learning [19.81071116581342]
深層学習に基づく物体検出器は、対象と背景に大きなバリエーションを持つ新しい対象領域に一般化するのに苦労する。
現在の手法では、画像またはインスタンスレベルの対角的特徴アライメントを使用してドメインをアライメントする。
本稿では,モデルの予測不確実性を利用して,対向的特徴アライメントとクラスレベルのアライメントの適切なバランスを打つことを提案する。
論文 参考訳(メタデータ) (2023-11-08T16:40:53Z) - Bi-discriminator Domain Adversarial Neural Networks with Class-Level
Gradient Alignment [87.8301166955305]
そこで本研究では,クラスレベルのアライメントアライメントを有するバイディミネータドメイン対向ニューラルネットワークを提案する。
BACGは、領域分布の整合性を改善するために勾配信号と二階確率推定を利用する。
さらに、対照的な学習にインスパイアされ、トレーニングプロセスを大幅に短縮できるメモリバンクベースの変種であるFast-BACGを開発した。
論文 参考訳(メタデータ) (2023-10-21T09:53:17Z) - Cal-SFDA: Source-Free Domain-adaptive Semantic Segmentation with
Differentiable Expected Calibration Error [50.86671887712424]
ドメイン適応型セマンティックセグメンテーションの流行は、ソースドメインデータの漏洩に関する懸念を引き起こしている。
ソースデータの要求を回避するため、ソースフリーなドメイン適応が実現可能なソリューションとして登場した。
校正誘導型ソースフリーなドメイン適応型セマンティックセマンティックセマンティクスフレームワークを提案する。
論文 参考訳(メタデータ) (2023-08-06T03:28:34Z) - Probabilistic Test-Time Generalization by Variational Neighbor-Labeling [62.158807685159736]
本稿では、ドメインの一般化を試み、モデルが未確認のターゲットドメインにデプロイされる前に、ソースドメインにのみトレーニングされる。
ソーストレーニングされたモデルをテスト時にターゲットドメインに一般化するための、ターゲットサンプルの擬似ラベル化の確率。
より堅牢な擬似ラベルを生成するために、近隣のターゲットサンプルの情報を含む変分隣接ラベル。
論文 参考訳(メタデータ) (2023-07-08T18:58:08Z) - Dirichlet-based Uncertainty Calibration for Active Domain Adaptation [33.33529827699169]
アクティブドメイン適応(DA)は、アノテートする限られたターゲットデータを積極的に選択することで、新しいターゲットドメインに対するモデル適応を最大限に向上することを目的としている。
従来のアクティブな学習方法は、ドメインシフトの問題を考慮していないため、効果が低い場合がある。
そこで我々は,iDirichlet-based Uncertainty (DUC) approach for active DAを提案する。
論文 参考訳(メタデータ) (2023-02-27T14:33:29Z) - Adapting to Latent Subgroup Shifts via Concepts and Proxies [82.01141290360562]
最適ターゲット予測器は、ソースドメインでのみ利用できる概念とプロキシ変数の助けを借りて、非パラメトリックに識別可能であることを示す。
本研究では,データ生成プロセスに特有の潜在変数モデルを提案する。
論文 参考訳(メタデータ) (2022-12-21T18:30:22Z) - Dual Moving Average Pseudo-Labeling for Source-Free Inductive Domain
Adaptation [45.024029784248825]
教師なしドメイン適応は、ソースからターゲットドメインに知識を適用することによって、ディープラーニングにおけるデータアノテーションへの依存を減らす。
プライバシと効率上の懸念に対して、ソースフリーなドメイン適応は、トレーニング済みのソースモデルをラベルなしのターゲットドメインに適応することにより、教師なしのドメイン適応を拡張します。
本稿では,DMAPL (Dual moving Average Pseudo-Labeling) という半教師付きファインチューニング手法を提案する。
論文 参考訳(メタデータ) (2022-12-15T23:20:13Z) - Boosting Cross-Domain Speech Recognition with Self-Supervision [35.01508881708751]
自動音声認識(ASR)のクロスドメイン性能は,トレーニングとテストのミスマッチにより著しく損なわれる可能性がある。
従来, 自己監督学習 (SSL) や擬似ラベル学習 (PL) は, 未ラベルデータの自己監督を利用してUDAに有効であることが示された。
この研究は、事前学習および微調整のパラダイムにおいて、ラベルなしデータを完全に活用する体系的なUDAフレームワークを提案する。
論文 参考訳(メタデータ) (2022-06-20T14:02:53Z) - Boosting Unsupervised Domain Adaptation with Soft Pseudo-label and
Curriculum Learning [19.903568227077763]
教師なしドメイン適応(UDA)は、完全にラベル付けされたソースドメインからのデータを活用することにより、ラベル付けされていないターゲットドメインの分類性能を向上させる。
ソフトな擬似ラベル戦略を用いてモデル予測の欠陥を大幅に低減するモデルに依存しない2段階学習フレームワークを提案する。
第2段階では,2つのドメインの損失間の重み付けを適応的に制御するカリキュラム学習戦略を提案する。
論文 参考訳(メタデータ) (2021-12-03T14:47:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。