論文の概要: Unsupervised Domain Adaptation Based on the Predictive Uncertainty of
Models
- arxiv url: http://arxiv.org/abs/2211.08866v1
- Date: Wed, 16 Nov 2022 12:23:32 GMT
- ステータス: 処理完了
- システム内更新日: 2022-11-17 15:40:43.200163
- Title: Unsupervised Domain Adaptation Based on the Predictive Uncertainty of
Models
- Title(参考訳): モデル予測の不確実性に基づく教師なし領域適応
- Authors: JoonHo Lee, Gyemin Lee
- Abstract要約: 非教師付きドメイン適応(UDA)は、ソースドメインからの分散シフトの下で、ターゲットドメインの予測性能を改善することを目的としている。
ドメインの発散を最小限に抑えるドメイン不変の特徴を学習する新しいUDA法を提案する。
- 参考スコア(独自算出の注目度): 1.6498361958317636
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Unsupervised domain adaptation (UDA) aims to improve the prediction
performance in the target domain under distribution shifts from the source
domain. The key principle of UDA is to minimize the divergence between the
source and the target domains. To follow this principle, many methods employ a
domain discriminator to match the feature distributions. Some recent methods
evaluate the discrepancy between two predictions on target samples to detect
those that deviate from the source distribution. However, their performance is
limited because they either match the marginal distributions or measure the
divergence conservatively. In this paper, we present a novel UDA method that
learns domain-invariant features that minimize the domain divergence. We
propose model uncertainty as a measure of the domain divergence. Our UDA method
based on model uncertainty (MUDA) adopts a Bayesian framework and provides an
efficient way to evaluate model uncertainty by means of Monte Carlo dropout
sampling. Empirical results on image recognition tasks show that our method is
superior to existing state-of-the-art methods. We also extend MUDA to
multi-source domain adaptation problems.
- Abstract(参考訳): unsupervised domain adaptation(uda)は、ソースドメインからの分散シフト下でのターゲットドメインの予測性能を改善することを目的としている。
UDAの主な原則は、ソースとターゲットドメイン間のばらつきを最小限にすることである。
この原則に従うために、多くの方法は特徴分布にマッチするドメイン判別器を用いる。
最近の手法では、ターゲットサンプルの2つの予測の相違を評価し、ソース分布から逸脱しているものを検出する。
しかし、その性能は限界分布に合致するか、保守的に分岐を測定するため限定的である。
本稿では,ドメインの発散を最小限に抑えるドメイン不変の特徴を学習するUDA手法を提案する。
領域分割の尺度としてモデル不確実性を提案する。
モデル不確実性(MUDA)に基づくUDA法はベイズ的枠組みを採用し,モンテカルロ・ドロップアウトサンプリングを用いてモデル不確実性を評価する効率的な方法を提供する。
画像認識タスクにおける実験結果から,本手法は既存の最先端手法よりも優れていることが示された。
また、MUDAをマルチソース領域適応問題に拡張する。
関連論文リスト
- Unsupervised Domain Adaptation via Domain-Adaptive Diffusion [31.802163238282343]
非教師付きドメイン適応(UDA)は、ソースドメインとターゲットドメインの間に大きな分散不一致があるため、非常に難しい。
大規模なギャップをまたいでデータ分散を段階的に変換する能力を持つ拡散モデルに着想を得て,その課題に対処する拡散手法について検討する。
提案手法は, 広く使用されている3つのUDAデータセットに対して, 現在の最先端技術よりも大きなマージンを達成している。
論文 参考訳(メタデータ) (2023-08-26T14:28:18Z) - Distributionally Robust Domain Adaptation [12.02023514105999]
ドメイン適応(DA: Domain Adaptation)は、ソースドメインとターゲットドメインをまたいだ学習モデルに適合する可能性から、最近大きな注目を集めている。
本稿では,分散ロバストな領域適応手法DRDAを提案する。
論文 参考訳(メタデータ) (2022-10-30T17:29:22Z) - Domain-Specific Risk Minimization for Out-of-Distribution Generalization [104.17683265084757]
まず、適応性ギャップを明示的に考慮した一般化境界を確立する。
本稿では,目標に対するより良い仮説の選択を導くための効果的なギャップ推定法を提案する。
もう1つの方法は、オンラインターゲットサンプルを用いてモデルパラメータを適応させることにより、ギャップを最小化することである。
論文 参考訳(メタデータ) (2022-08-18T06:42:49Z) - Learning Unbiased Transferability for Domain Adaptation by Uncertainty
Modeling [107.24387363079629]
ドメイン適応は、ラベル付けされたソースドメインからラベル付けされていない、あるいはラベル付けされていないが関連するターゲットドメインに知識を転送することを目的としています。
ソース内のアノテートされたデータの量とターゲットドメインとの間の不均衡のため、ターゲットの分布のみがソースドメインにアライメントされる。
本稿では,非暴力的非暴力的移動可能性推定プラグイン(UTEP)を提案し,非暴力的移動を最適化するDA法において,識別器の不確実性をモデル化する。
論文 参考訳(メタデータ) (2022-06-02T21:58:54Z) - Source-Free Domain Adaptation via Distribution Estimation [106.48277721860036]
ドメイン適応は、ラベル付きソースドメインから学んだ知識を、データ分散が異なるラベル付きターゲットドメインに転送することを目的としています。
近年,ソースフリードメイン適応 (Source-Free Domain Adaptation, SFDA) が注目されている。
本研究では,SFDA-DEと呼ばれる新しいフレームワークを提案し,ソース分布推定によるSFDAタスクに対処する。
論文 参考訳(メタデータ) (2022-04-24T12:22:19Z) - Deep Least Squares Alignment for Unsupervised Domain Adaptation [6.942003070153651]
教師なしのドメイン適応はラベル付きソースドメインからの豊富な情報を活用してラベルなしのターゲットドメインをモデル化する。
線形モデルをパラメータ化することにより,2つの領域の潜在空間における分布を推定するために,最深部最小二乗アライメント(DLSA)を提案する。
拡張実験により,提案したDLSAモデルは領域分布の整合に有効であり,最先端の手法より優れていることが示された。
論文 参考訳(メタデータ) (2021-11-03T13:23:06Z) - Unsupervised BatchNorm Adaptation (UBNA): A Domain Adaptation Method for
Semantic Segmentation Without Using Source Domain Representations [35.586031601299034]
Unsupervised BatchNorm Adaptation (UBNA) は、与えられた事前訓練されたモデルを、目に見えないターゲットドメインに適応させる。
我々は指数的に減衰する運動量因子を用いて、正規化層統計を対象領域に部分的に適応させる。
標準的なUDAアプローチと比較して、ソースドメイン表現のパフォーマンスと利用のトレードオフを報告します。
論文 参考訳(メタデータ) (2020-11-17T08:37:40Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳(メタデータ) (2020-10-09T15:42:35Z) - Estimating Generalization under Distribution Shifts via Domain-Invariant
Representations [75.74928159249225]
未知の真のターゲットラベルのプロキシとして、ドメイン不変の予測器のセットを使用します。
結果として生じるリスク見積の誤差は、プロキシモデルのターゲットリスクに依存する。
論文 参考訳(メタデータ) (2020-07-06T17:21:24Z) - Few-shot Domain Adaptation by Causal Mechanism Transfer [107.08605582020866]
我々は,少数のラベル付き対象ドメインデータと多数のラベル付きソースドメインデータしか利用できないレグレッション問題に対して,数ショットの教師付きドメイン適応(DA)について検討する。
現在のDA法の多くは、パラメータ化された分布シフトまたは明らかな分布類似性に基づく転送仮定に基づいている。
本稿では,データ生成機構がドメイン間で不変であるメタ分散シナリオであるメカニズム転送を提案する。
論文 参考訳(メタデータ) (2020-02-10T02:16:53Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。