論文の概要: Learning Domain-Invariant Relationship with Instrumental Variable for
Domain Generalization
- arxiv url: http://arxiv.org/abs/2110.01438v1
- Date: Mon, 4 Oct 2021 13:32:57 GMT
- ステータス: 処理完了
- システム内更新日: 2021-10-05 15:46:45.459694
- Title: Learning Domain-Invariant Relationship with Instrumental Variable for
Domain Generalization
- Title(参考訳): 領域一般化のための楽器変数とのドメイン不変性学習
- Authors: Junkun Yuan, Xu Ma, Kun Kuang, Ruoxuan Xiong, Mingming Gong, Lanfen
Lin
- Abstract要約: ドメインの一般化は、目に見えないターゲットドメインをうまく一般化するモデルとして、複数のソースドメインから学習することを目的としている。
本稿では, 条件分布に含まれる入力特徴とラベルの領域不変性について, インスツルメンタル変数に基づく学習手法を提案する。
- 参考スコア(独自算出の注目度): 42.873199234582735
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Domain generalization (DG) aims to learn from multiple source domains a model
that generalizes well on unseen target domains. Existing methods mainly learn
input feature representations with invariant marginal distribution, while the
invariance of the conditional distribution is more essential for unknown domain
generalization. This paper proposes an instrumental variable-based approach to
learn the domain-invariant relationship between input features and labels
contained in the conditional distribution. Interestingly, with a causal view on
the data generating process, we find that the input features of one domain are
valid instrumental variables for other domains. Inspired by this finding, we
design a simple yet effective framework to learn the Domain-invariant
Relationship with Instrumental VariablE (DRIVE) via a two-stage IV method.
Specifically, it first learns the conditional distribution of input features of
one domain given input features of another domain, and then it estimates the
domain-invariant relationship by predicting labels with the learned conditional
distribution. Simulation experiments show the proposed method accurately
captures the domain-invariant relationship. Extensive experiments on several
datasets consistently demonstrate that DRIVE yields state-of-the-art results.
- Abstract(参考訳): ドメイン一般化(DG)は、複数のソースドメインから、見えないターゲットドメインをうまく一般化するモデルを学ぶことを目的としている。
既存の手法は主に不変辺分布を持つ入力特徴表現を学習するが、条件分布の不変性は未知領域一般化においてより不可欠である。
本稿では,条件分布に含まれる入力特徴とラベル間のドメイン不変関係を学習するための変数ベース手法を提案する。
興味深いことに、データ生成プロセスの因果的ビューでは、あるドメインの入力特徴が他のドメインに対して有効なインストゥルメンタル変数であることが分かる。
この発見に触発されて、我々は2段階IV法によるDomain-invariant Relationship with Instrumental VariablE (DRIVE)を学習するための、シンプルで効果的なフレームワークを設計した。
具体的には、まず、あるドメインの入力特徴の条件分布を学習し、次に学習された条件分布とラベルを予測することにより、ドメインと不変の関係を推定する。
シミュレーション実験により,提案手法がドメイン不変関係を正確に捉えることを示す。
いくつかのデータセットに対する大規模な実験は、DRIVEが最先端の結果をもたらすことを一貫して示している。
関連論文リスト
- Graphs Generalization under Distribution Shifts [11.963958151023732]
グラフ学習不変領域ジェネレーション(GLIDER)という新しいフレームワークを導入する。
本モデルでは,ノード特徴量と位相構造量の分布シフトを同時に行う場合,ノードレベルのOOD一般化に基づくベースライン手法よりも優れる。
論文 参考訳(メタデータ) (2024-03-25T00:15:34Z) - Uncertainty-guided Contrastive Learning for Single Source Domain Generalisation [15.907643838530655]
本稿では,Contrastive Uncertainty Domain Generalisation Network(CUDGNet)と呼ばれる新しいモデルを紹介する。
鍵となるアイデアは、架空のドメインジェネレータを通じて、入力空間とラベル空間の両方のソース容量を増大させることである。
また,提案手法は,1つのフォワードパスからジェネレータサブネットワークを経由した推論時間における効率的な不確実性推定も提供する。
論文 参考訳(メタデータ) (2024-03-12T10:47:45Z) - Algorithmic Fairness Generalization under Covariate and Dependence Shifts Simultaneously [28.24666589680547]
公平かつ不変な分類器の学習を目的とした,単純かつ効果的な手法を提案する。
モデルを用いて様々な合成データドメインを拡張することにより、ソースドメインの公平かつ不変な分類器を学習する。
この分類器は未知の対象領域に一般化することができ、モデル予測と公平性の懸念の両方を維持できる。
論文 参考訳(メタデータ) (2023-11-23T05:52:00Z) - Improving Domain Generalization with Domain Relations [77.63345406973097]
本稿では、モデルがトレーニングされたドメインと異なる新しいドメインに適用されたときに発生するドメインシフトに焦点を当てる。
ドメイン固有モデルを学習するためのD$3$Gという新しい手法を提案する。
以上の結果から,D$3$Gは最先端の手法より一貫して優れていた。
論文 参考訳(メタデータ) (2023-02-06T08:11:16Z) - Learning Unbiased Transferability for Domain Adaptation by Uncertainty
Modeling [107.24387363079629]
ドメイン適応は、ラベル付けされたソースドメインからラベル付けされていない、あるいはラベル付けされていないが関連するターゲットドメインに知識を転送することを目的としています。
ソース内のアノテートされたデータの量とターゲットドメインとの間の不均衡のため、ターゲットの分布のみがソースドメインにアライメントされる。
本稿では,非暴力的非暴力的移動可能性推定プラグイン(UTEP)を提案し,非暴力的移動を最適化するDA法において,識別器の不確実性をモデル化する。
論文 参考訳(メタデータ) (2022-06-02T21:58:54Z) - Contrastive ACE: Domain Generalization Through Alignment of Causal
Mechanisms [34.99779761100095]
ドメインの一般化は、異なる分布にまたがる知識不変性を学ぶことを目的としている。
ラベルに対する特徴の因果効果の平均的因果効果の因果不変性を考察する。
論文 参考訳(メタデータ) (2021-06-02T04:01:22Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳(メタデータ) (2020-10-09T15:42:35Z) - Adaptively-Accumulated Knowledge Transfer for Partial Domain Adaptation [66.74638960925854]
部分ドメイン適応(PDA)は、ソースドメインラベル空間がターゲットドメインを置き換えるとき、現実的で困難な問題を扱う。
本稿では,2つの領域にまたがる関連カテゴリを整合させる適応的知識伝達フレームワーク(A$2KT)を提案する。
論文 参考訳(メタデータ) (2020-08-27T00:53:43Z) - Dual Distribution Alignment Network for Generalizable Person
Re-Identification [174.36157174951603]
ドメイン一般化(DG)は、人物再識別(Re-ID)を扱うための有望なソリューションとして機能する
本稿では、複数のソースドメインの分布を選択的に整列させることにより、この問題に対処するDual Distribution Alignment Network(DDAN)を提案する。
大規模なDomain Generalization Re-ID(DG Re-ID)ベンチマークでDDANを評価した。
論文 参考訳(メタデータ) (2020-07-27T00:08:07Z) - NestedVAE: Isolating Common Factors via Weak Supervision [45.366986365879505]
我々は、バイアス低減の課題と、ドメイン間で共通する分離要因の関係を同定する。
共通因子を分離するために、潜伏変数モデルの理論と情報ボトルネック理論を組み合わせる。
共有重みを持つ2つの外部VAEは入力を再構成し、潜伏空間を推論し、一方、ネストされたVAEはペア化された画像の潜伏表現から1つの画像の潜伏表現を再構成しようとする。
論文 参考訳(メタデータ) (2020-02-26T15:49:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。