論文の概要: Instrumental Variable-Driven Domain Generalization with Unobserved
Confounders
- arxiv url: http://arxiv.org/abs/2110.01438v2
- Date: Thu, 25 May 2023 08:21:33 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-27 00:45:03.269507
- Title: Instrumental Variable-Driven Domain Generalization with Unobserved
Confounders
- Title(参考訳): 非オブザーブド共作者によるインストゥルメンタル変数駆動型ドメイン一般化
- Authors: Junkun Yuan, Xu Ma, Ruoxuan Xiong, Mingming Gong, Xiangyu Liu, Fei Wu,
Lanfen Lin, Kun Kuang
- Abstract要約: ドメイン一般化(Domain Generalization, DG)は、複数のソースドメインから、目に見えないターゲットドメインをうまく一般化できるモデルを学ぶことを目的としている。
観測不能な共同創設者のバイアスを2段階学習で除去し,インストゥルメンタル変数駆動型DG法(IV-DG)を提案する。
第1段階では、あるドメインの入力特徴の条件分布を他のドメインの入力特徴の条件分布として学習する。
第2段階では,ラベルと学習条件分布の関係を推定する。
- 参考スコア(独自算出の注目度): 53.735614014067394
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Domain generalization (DG) aims to learn from multiple source domains a model
that can generalize well on unseen target domains. Existing DG methods mainly
learn the representations with invariant marginal distribution of the input
features, however, the invariance of the conditional distribution of the labels
given the input features is more essential for unknown domain prediction.
Meanwhile, the existing of unobserved confounders which affect the input
features and labels simultaneously cause spurious correlation and hinder the
learning of the invariant relationship contained in the conditional
distribution. Interestingly, with a causal view on the data generating process,
we find that the input features of one domain are valid instrumental variables
for other domains. Inspired by this finding, we propose an instrumental
variable-driven DG method (IV-DG) by removing the bias of the unobserved
confounders with two-stage learning. In the first stage, it learns the
conditional distribution of the input features of one domain given input
features of another domain. In the second stage, it estimates the relationship
by predicting labels with the learned conditional distribution. Theoretical
analyses and simulation experiments show that it accurately captures the
invariant relationship. Extensive experiments on real-world datasets
demonstrate that IV-DG method yields state-of-the-art results.
- Abstract(参考訳): ドメイン一般化(Domain Generalization, DG)は、複数のソースドメインから、見えないターゲットドメインをうまく一般化できるモデルを学ぶことを目的としている。
既存のDG法は主に入力特徴の差分分布の不変な表現を学習するが、入力特徴が与えられたラベルの条件分布の不変性は未知の領域予測に必要不可欠である。
一方、入力特徴とラベルに影響を与える未観測の共同創設者の存在は、同時に突発的な相関を引き起こし、条件分布に含まれる不変関係の学習を妨げる。
興味深いことに、データ生成プロセスの因果的ビューでは、あるドメインの入力特徴が他のドメインに対して有効なインストゥルメンタル変数であることが分かる。
この発見に触発されて,2段階学習による未観測共同創設者のバイアスを除去し,インストゥルメンタル変数駆動型DG法(IV-DG)を提案する。
第1段階では、あるドメインの入力特徴の条件分布を他のドメインの入力特徴の条件分布として学習する。
第2段階では、ラベルと学習条件分布を予測して関係を推定する。
理論的解析とシミュレーション実験により、不変関係を正確に捉えることが示されている。
実世界のデータセットに関する大規模な実験は、IV-DG法が最先端の結果をもたらすことを示した。
関連論文リスト
- Graphs Generalization under Distribution Shifts [11.963958151023732]
グラフ学習不変領域ジェネレーション(GLIDER)という新しいフレームワークを導入する。
本モデルでは,ノード特徴量と位相構造量の分布シフトを同時に行う場合,ノードレベルのOOD一般化に基づくベースライン手法よりも優れる。
論文 参考訳(メタデータ) (2024-03-25T00:15:34Z) - Uncertainty-guided Contrastive Learning for Single Source Domain Generalisation [15.907643838530655]
本稿では,Contrastive Uncertainty Domain Generalisation Network(CUDGNet)と呼ばれる新しいモデルを紹介する。
鍵となるアイデアは、架空のドメインジェネレータを通じて、入力空間とラベル空間の両方のソース容量を増大させることである。
また,提案手法は,1つのフォワードパスからジェネレータサブネットワークを経由した推論時間における効率的な不確実性推定も提供する。
論文 参考訳(メタデータ) (2024-03-12T10:47:45Z) - Algorithmic Fairness Generalization under Covariate and Dependence Shifts Simultaneously [28.24666589680547]
公平かつ不変な分類器の学習を目的とした,単純かつ効果的な手法を提案する。
モデルを用いて様々な合成データドメインを拡張することにより、ソースドメインの公平かつ不変な分類器を学習する。
この分類器は未知の対象領域に一般化することができ、モデル予測と公平性の懸念の両方を維持できる。
論文 参考訳(メタデータ) (2023-11-23T05:52:00Z) - Improving Domain Generalization with Domain Relations [77.63345406973097]
本稿では、モデルがトレーニングされたドメインと異なる新しいドメインに適用されたときに発生するドメインシフトに焦点を当てる。
ドメイン固有モデルを学習するためのD$3$Gという新しい手法を提案する。
以上の結果から,D$3$Gは最先端の手法より一貫して優れていた。
論文 参考訳(メタデータ) (2023-02-06T08:11:16Z) - Learning Unbiased Transferability for Domain Adaptation by Uncertainty
Modeling [107.24387363079629]
ドメイン適応は、ラベル付けされたソースドメインからラベル付けされていない、あるいはラベル付けされていないが関連するターゲットドメインに知識を転送することを目的としています。
ソース内のアノテートされたデータの量とターゲットドメインとの間の不均衡のため、ターゲットの分布のみがソースドメインにアライメントされる。
本稿では,非暴力的非暴力的移動可能性推定プラグイン(UTEP)を提案し,非暴力的移動を最適化するDA法において,識別器の不確実性をモデル化する。
論文 参考訳(メタデータ) (2022-06-02T21:58:54Z) - Contrastive ACE: Domain Generalization Through Alignment of Causal
Mechanisms [34.99779761100095]
ドメインの一般化は、異なる分布にまたがる知識不変性を学ぶことを目的としている。
ラベルに対する特徴の因果効果の平均的因果効果の因果不変性を考察する。
論文 参考訳(メタデータ) (2021-06-02T04:01:22Z) - Learning Invariant Representations and Risks for Semi-supervised Domain
Adaptation [109.73983088432364]
半教師付きドメイン適応(Semi-DA)の設定の下で不変表現とリスクを同時に学習することを目的とした最初の手法を提案する。
共同で textbfLearning textbfInvariant textbfRepresentations と textbfRisks の LIRR アルゴリズムを導入する。
論文 参考訳(メタデータ) (2020-10-09T15:42:35Z) - Adaptively-Accumulated Knowledge Transfer for Partial Domain Adaptation [66.74638960925854]
部分ドメイン適応(PDA)は、ソースドメインラベル空間がターゲットドメインを置き換えるとき、現実的で困難な問題を扱う。
本稿では,2つの領域にまたがる関連カテゴリを整合させる適応的知識伝達フレームワーク(A$2KT)を提案する。
論文 参考訳(メタデータ) (2020-08-27T00:53:43Z) - Dual Distribution Alignment Network for Generalizable Person
Re-Identification [174.36157174951603]
ドメイン一般化(DG)は、人物再識別(Re-ID)を扱うための有望なソリューションとして機能する
本稿では、複数のソースドメインの分布を選択的に整列させることにより、この問題に対処するDual Distribution Alignment Network(DDAN)を提案する。
大規模なDomain Generalization Re-ID(DG Re-ID)ベンチマークでDDANを評価した。
論文 参考訳(メタデータ) (2020-07-27T00:08:07Z) - NestedVAE: Isolating Common Factors via Weak Supervision [45.366986365879505]
我々は、バイアス低減の課題と、ドメイン間で共通する分離要因の関係を同定する。
共通因子を分離するために、潜伏変数モデルの理論と情報ボトルネック理論を組み合わせる。
共有重みを持つ2つの外部VAEは入力を再構成し、潜伏空間を推論し、一方、ネストされたVAEはペア化された画像の潜伏表現から1つの画像の潜伏表現を再構成しようとする。
論文 参考訳(メタデータ) (2020-02-26T15:49:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。