論文の概要: PseudoCal: A Source-Free Approach to Unsupervised Uncertainty
Calibration in Domain Adaptation
- arxiv url: http://arxiv.org/abs/2307.07489v1
- Date: Fri, 14 Jul 2023 17:21:41 GMT
- ステータス: 処理完了
- システム内更新日: 2023-07-17 13:02:41.020907
- Title: PseudoCal: A Source-Free Approach to Unsupervised Uncertainty
Calibration in Domain Adaptation
- Title(参考訳): PseudoCal:ドメイン適応における教師なし不確実性校正へのソースフリーアプローチ
- Authors: Dapeng Hu, Jian Liang, Xinchao Wang, Chuan-Sheng Foo
- Abstract要約: 非教師なしドメイン適応(UDA)は、未ラベルのターゲットドメインのモデルの精度を向上する顕著な進歩を目撃している。
UDAモデルの安全な配置の重要な側面であるターゲット領域における予測不確実性の校正は、あまり注目されていない。
PseudoCalは、ラベルのないターゲットデータにのみ依存するソースフリーキャリブレーション手法である。
- 参考スコア(独自算出の注目度): 87.69789891809562
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Unsupervised domain adaptation (UDA) has witnessed remarkable advancements in
improving the accuracy of models for unlabeled target domains. However, the
calibration of predictive uncertainty in the target domain, a crucial aspect of
the safe deployment of UDA models, has received limited attention. The
conventional in-domain calibration method, \textit{temperature scaling}
(TempScal), encounters challenges due to domain distribution shifts and the
absence of labeled target domain data. Recent approaches have employed
importance-weighting techniques to estimate the target-optimal temperature
based on re-weighted labeled source data. Nonetheless, these methods require
source data and suffer from unreliable density estimates under severe domain
shifts, rendering them unsuitable for source-free UDA settings. To overcome
these limitations, we propose PseudoCal, a source-free calibration method that
exclusively relies on unlabeled target data. Unlike previous approaches that
treat UDA calibration as a \textit{covariate shift} problem, we consider it as
an unsupervised calibration problem specific to the target domain. Motivated by
the factorization of the negative log-likelihood (NLL) objective in TempScal,
we generate a labeled pseudo-target set that captures the structure of the real
target. By doing so, we transform the unsupervised calibration problem into a
supervised one, enabling us to effectively address it using widely-used
in-domain methods like TempScal. Finally, we thoroughly evaluate the
calibration performance of PseudoCal by conducting extensive experiments on 10
UDA methods, considering both traditional UDA settings and recent source-free
UDA scenarios. The experimental results consistently demonstrate the superior
performance of PseudoCal, exhibiting significantly reduced calibration error
compared to existing calibration methods.
- Abstract(参考訳): 非教師なしドメイン適応(UDA)は、未ラベルのターゲットドメインのモデルの精度を向上する顕著な進歩を目撃している。
しかし、UDAモデルの安全な配置の重要な側面であるターゲット領域における予測不確実性の校正は、あまり注目されていない。
従来のドメイン内キャリブレーション手法である‘textit{temperature scaling}(TempScal)は,ドメイン分布のシフトやラベル付き対象ドメインデータの欠如による問題に遭遇する。
近年のアプローチでは、再重み付きラベル付き音源データに基づいて目標最適温度を推定するために重要重み付け手法が採用されている。
それでも、これらの手法はソースデータを必要とし、厳しいドメインシフトの下で信頼性の低い密度推定に苦しむため、ソースフリーなUDA設定には適さない。
これらの制約を克服するため、未ラベルのターゲットデータのみに依存するソースフリーキャリブレーション手法であるPseudoCalを提案する。
udaキャリブレーションを \textit{covariate shift} 問題として扱う従来のアプローチとは異なり、対象領域特有の教師なしキャリブレーション問題であると考える。
本研究では,TempScalにおける負の対数類似度(NLL)の係数化により,実ターゲットの構造を捉えるラベル付き擬似ターゲットセットを生成する。
これにより,教師なしキャリブレーション問題を教師付きキャリブレーションに変換し,tempscalのような広く使用されているドメイン内メソッドを用いて効果的に対処できる。
最後に,従来のUDA設定と最近のソースフリーなUDAシナリオの両方を考慮して,10UDA手法の広範な実験を行うことで,PseudoCalの校正性能を徹底的に評価する。
実験結果はPseudoCalの優れた性能を示し,既存の校正法と比較して校正誤差を著しく低減した。
関連論文リスト
- Cal-SFDA: Source-Free Domain-adaptive Semantic Segmentation with
Differentiable Expected Calibration Error [50.86671887712424]
ドメイン適応型セマンティックセグメンテーションの流行は、ソースドメインデータの漏洩に関する懸念を引き起こしている。
ソースデータの要求を回避するため、ソースフリーなドメイン適応が実現可能なソリューションとして登場した。
校正誘導型ソースフリーなドメイン適応型セマンティックセマンティックセマンティクスフレームワークを提案する。
論文 参考訳(メタデータ) (2023-08-06T03:28:34Z) - Feature Alignment by Uncertainty and Self-Training for Source-Free
Unsupervised Domain Adaptation [1.6498361958317636]
ほとんどの教師なし領域適応(UDA)手法は、ラベル付きソースイメージがモデル適応中に利用できると仮定する。
本稿では,事前学習したソースモデルと未ラベルのターゲット画像のみを用いる,ソースフリーなUDA手法を提案する。
本手法は,データ拡張を取り入れ,特徴発生器を2つの整合性目標で訓練することにより,アレータリックな不確実性を捕捉する。
論文 参考訳(メタデータ) (2022-08-31T14:28:36Z) - Source-free Unsupervised Domain Adaptation for Blind Image Quality
Assessment [20.28784839680503]
既存の学習ベースのブラインド画像品質評価法(BIQA)は、大量の注釈付きトレーニングデータに大きく依存している。
本稿では,ソースフリーな非教師付きドメイン適応(SFUDA)への第一歩を,シンプルで効率的な方法で進める。
本稿では、BNアフィンパラメータのターゲット領域への適応を導くための、十分に設計された自己教師対象のグループを示す。
論文 参考訳(メタデータ) (2022-07-17T09:42:36Z) - Learning Unbiased Transferability for Domain Adaptation by Uncertainty
Modeling [107.24387363079629]
ドメイン適応は、ラベル付けされたソースドメインからラベル付けされていない、あるいはラベル付けされていないが関連するターゲットドメインに知識を転送することを目的としています。
ソース内のアノテートされたデータの量とターゲットドメインとの間の不均衡のため、ターゲットの分布のみがソースドメインにアライメントされる。
本稿では,非暴力的非暴力的移動可能性推定プラグイン(UTEP)を提案し,非暴力的移動を最適化するDA法において,識別器の不確実性をモデル化する。
論文 参考訳(メタデータ) (2022-06-02T21:58:54Z) - Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。
近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。
本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
論文 参考訳(メタデータ) (2022-04-24T12:22:19Z) - Certainty Volume Prediction for Unsupervised Domain Adaptation [35.984559137218504]
教師なしドメイン適応(Unsupervised domain adapt, UDA)は、ラベルなしのターゲットドメインデータを分類する問題を扱う。
特徴空間における多変量ガウス分布としての不確かさをモデル化する新しい不確実性対応領域適応構成を提案する。
提案したパイプラインを、挑戦的なUDAデータセットに基づいて評価し、最先端の結果を得る。
論文 参考訳(メタデータ) (2021-11-03T11:22:55Z) - Confidence Calibration for Domain Generalization under Covariate Shift [12.527429721643783]
ドメイン一般化による新しいキャリブレーションソリューションを提案する。
私たちのコアアイデアは、複数のキャリブレーションドメインを活用して、ターゲットとキャリブレーションドメイン間の効果的な分散格差を減らすことです。
ドメイン適応のための最先端キャリブレーション手法と比較して,期待キャリブレーション誤差の8.86ポイントの減少が観察された。
論文 参考訳(メタデータ) (2021-04-01T19:31:54Z) - Transferable Calibration with Lower Bias and Variance in Domain
Adaptation [139.4332115349543]
ドメイン適応(DA)は、ラベル付きソースドメインからラベル付きターゲットドメインへの学習マシンの転送を可能にする。
DAモデルの予測的不確実性を推定する方法は、安全クリティカルなシナリオにおける意思決定に不可欠である。
TransCalは既存のDAメソッドの校正に簡単に適用できる。
論文 参考訳(メタデータ) (2020-07-16T11:09:36Z) - Unsupervised Calibration under Covariate Shift [92.02278658443166]
ドメインシフト下でのキャリブレーションの問題を導入し、それに対処するための重要サンプリングに基づくアプローチを提案する。
実世界のデータセットと合成データセットの両方において,本手法の有効性を評価し検討した。
論文 参考訳(メタデータ) (2020-06-29T21:50:07Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。