論文の概要: A Causal Inspired Early-Branching Structure for Domain Generalization
- arxiv url: http://arxiv.org/abs/2403.08649v1
- Date: Wed, 13 Mar 2024 16:04:29 GMT
- ステータス: 処理完了
- システム内更新日: 2024-03-14 13:38:24.992530
- Title: A Causal Inspired Early-Branching Structure for Domain Generalization
- Title(参考訳): 領域一般化のための因果的初期分岐構造
- Authors: Liang Chen, Yong Zhang, Yibing Song, Zhen Zhang, Lingqiao Liu
- Abstract要約: ドメイン不変セマンティック表現の学習は、ドメインの一般化を達成するために不可欠である。
標準的なトレーニングは、しばしば絡み合った意味とドメイン固有の特徴をもたらす。
これまでの研究は、因果的な観点から問題を定式化することを示唆している。
基本的なフレームワークを補完する2つの戦略を提案する。
- 参考スコア(独自算出の注目度): 46.55514281988053
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Learning domain-invariant semantic representations is crucial for achieving
domain generalization (DG), where a model is required to perform well on unseen
target domains. One critical challenge is that standard training often results
in entangled semantic and domain-specific features. Previous works suggest
formulating the problem from a causal perspective and solving the entanglement
problem by enforcing marginal independence between the causal (\ie semantic)
and non-causal (\ie domain-specific) features. Despite its simplicity, the
basic marginal independent-based idea alone may be insufficient to identify the
causal feature. By d-separation, we observe that the causal feature can be
further characterized by being independent of the domain conditioned on the
object, and we propose the following two strategies as complements for the
basic framework.
First, the observation implicitly implies that for the same object, the
causal feature should not be associated with the non-causal feature, revealing
that the common practice of obtaining the two features with a shared base
feature extractor and two lightweight prediction heads might be inappropriate.
To meet the constraint, we propose a simple early-branching structure, where
the causal and non-causal feature obtaining branches share the first few blocks
while diverging thereafter, for better structure design; Second, the
observation implies that the causal feature remains invariant across different
domains for the same object. To this end, we suggest that augmentation should
be incorporated into the framework to better characterize the causal feature,
and we further suggest an effective random domain sampling scheme to fulfill
the task. Theoretical and experimental results show that the two strategies are
beneficial for the basic marginal independent-based framework. Code is
available at \url{https://github.com/liangchen527/CausEB}.
- Abstract(参考訳): ドメイン不変セマンティック表現の学習はドメイン一般化(DG)の実現に不可欠である。
ひとつの重要な課題は、標準トレーニングがしばしば絡み合ったセマンティクスとドメイン固有の機能をもたらすことだ。
従来の研究は因果的観点から問題を定式化し、因果的 (\ie semantic) と非因果的 (\ie domain-specific) 特徴の間の限界独立を強制することで絡み合う問題を解くことを示唆していた。
その単純さにもかかわらず、基本的な境界的な独立に基づく考えだけでは因果的特徴を特定するには不十分かもしれない。
d-セパレーションにより、この因果的特徴は、オブジェクトに条件づけられたドメインから独立していることによってさらに特徴付けられることを観察し、基本的なフレームワークの補完として、以下の2つの戦略を提案する。
まず、同じ対象に対して因果的特徴を非因果的特徴に関連付けるべきではないことを暗黙的に示唆し、共通基盤特徴抽出器と2つの軽量予測ヘッドで2つの特徴を得るという共通の実践が不適切であることを示した。
この制約を満たすため,本手法では,各領域の因果的特徴と非因果的特徴が分岐しながら最初の数ブロックを共有できる簡易な早期分岐構造を提案する。
この目的のために, 因果的特徴をより正確に評価するために, 拡張をフレームワークに組み込むことを提案し, さらに, タスクを遂行するための効果的なランダム領域サンプリング手法を提案する。
理論的および実験的な結果は、この2つの戦略が基本的辺縁的な独立性に基づくフレームワークにとって有益であることを示している。
コードは \url{https://github.com/liangchen527/CausEB} で入手できる。
関連論文リスト
- Domain Game: Disentangle Anatomical Feature for Single Domain Generalized Segmentation [9.453879758234379]
医用画像セグメンテーションのための機能ディスタングを行うために,textitDomain Game という新しいフレームワークを提案する。
ドメインゲームでは、特異音源画像から導出されるランダムに変換された画像の集合を戦略的に2つの特徴集合に符号化する。
クロスサイトテスト領域の評価の結果、前立腺のセグメンテーションが約11.8%、脳腫瘍のセグメンテーションが約10.5%向上した。
論文 参考訳(メタデータ) (2024-06-04T09:10:02Z) - Bridging Domains with Approximately Shared Features [26.096779584142986]
マルチソースドメイン適応は、未知のドメインに機械学習モデルを適用する際のパフォーマンス劣化を低減することを目的としている。
ソースドメインから不変の機能を学ぶことを支持する者もいれば、より多様な機能を好む者もいる。
本稿では,それらの相関関係のばらつきに基づいて特徴の効用を識別し,ドメイン間で$y$のラベルを付ける統計フレームワークを提案する。
論文 参考訳(メタデータ) (2024-03-11T04:25:41Z) - Causal Prototype-inspired Contrast Adaptation for Unsupervised Domain
Adaptive Semantic Segmentation of High-resolution Remote Sensing Imagery [8.3316355693186]
本稿では,異なるHRSIsドメインとそれらの意味ラベル間の不変因果機構を探索するプロトタイプインスパイアされたコントラスト適応(CPCA)手法を提案する。
ソースとターゲットのドメインイメージから因果的特徴とバイアス的特徴を、因果的特徴のアンタングルメントモジュールを通じて切り離す。
さらに因果的・偏見的特徴を非相関化するために、因果的介入モジュールを導入してバイアス的特徴に介入し、反事実的非偏見的サンプルを生成する。
論文 参考訳(メタデータ) (2024-03-06T13:39:18Z) - DIGIC: Domain Generalizable Imitation Learning by Causal Discovery [69.13526582209165]
因果性は機械学習と組み合わせて、ドメインの一般化のための堅牢な表現を生成する。
我々は、実証データ分布を活用して、ドメインの一般化可能なポリシーの因果的特徴を発見するために、異なる試みを行っている。
DIGICと呼ばれる新しいフレームワークを設計し、実演データ分布から専門家行動の直接的な原因を見出すことにより因果的特徴を識別する。
論文 参考訳(メタデータ) (2024-02-29T07:09:01Z) - CILF:Causality Inspired Learning Framework for Out-of-Distribution
Vehicle Trajectory Prediction [0.0]
軌道予測は自動運転車にとって重要である。
ほとんどの既存手法は、履歴軌跡(インプット)と将来の軌跡(アウトプット)の相関をモデル化する傾向がある
論文 参考訳(メタデータ) (2023-07-11T05:21:28Z) - Causality Inspired Representation Learning for Domain Generalization [47.574964496891404]
本稿では、ドメイン一般化問題を形式化する一般的な構造因果モデルを提案する。
我々の目標は、入力から因果因子を抽出し、不変因果機構を再構築することである。
理想的な因果因子は、非因果的要因から分離され、共同独立であり、分類に十分な因果的要因である。
論文 参考訳(メタデータ) (2022-03-27T08:08:33Z) - Instrumental Variable-Driven Domain Generalization with Unobserved
Confounders [53.735614014067394]
ドメイン一般化(Domain Generalization, DG)は、複数のソースドメインから、目に見えないターゲットドメインをうまく一般化できるモデルを学ぶことを目的としている。
観測不能な共同創設者のバイアスを2段階学習で除去し,インストゥルメンタル変数駆動型DG法(IV-DG)を提案する。
第1段階では、あるドメインの入力特徴の条件分布を他のドメインの入力特徴の条件分布として学習する。
第2段階では,ラベルと学習条件分布の関係を推定する。
論文 参考訳(メタデータ) (2021-10-04T13:32:57Z) - Bi-Directional Generation for Unsupervised Domain Adaptation [61.73001005378002]
教師なしのドメイン適応は、確立されたソースドメイン情報に依存するラベルなしのターゲットドメインを促進する。
従来の手法では、潜在空間におけるドメインの不一致を強制的に低減することで、本質的なデータ構造が破壊される。
本稿では、2つの中間領域をブリッジソースとターゲットドメインに補間する一貫した分類器を用いた双方向生成ドメイン適応モデルを提案する。
論文 参考訳(メタデータ) (2020-02-12T09:45:39Z) - Contradictory Structure Learning for Semi-supervised Domain Adaptation [67.89665267469053]
現在の逆順応法は、クロスドメインの特徴を整列させようとする。
1)条件分布ミスマッチ、2)決定境界のソース領域へのバイアス。
本稿では,対向構造の学習を統一することで,半教師付きドメイン適応のための新しいフレームワークを提案する。
論文 参考訳(メタデータ) (2020-02-06T22:58:20Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。