論文の概要: Incorporating Interventional Independence Improves Robustness against Interventional Distribution Shift
- arxiv url: http://arxiv.org/abs/2507.05412v1
- Date: Mon, 07 Jul 2025 18:51:20 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-09 16:34:37.30834
- Title: Incorporating Interventional Independence Improves Robustness against Interventional Distribution Shift
- Title(参考訳): インターベンショナルインデペンデントの導入は、インターベンショナルディスペンデンスに対するロバスト性を改善する
- Authors: Gautam Sreekumar, Vishnu Naresh Boddeti,
- Abstract要約: 既存のアプローチは、基礎となる因果モデルが知られている場合でも、観察データのような介入データを扱う。
本稿では、介入中の統計的独立性を明示するトレーニングアルゴリズムであるRepLInを提案する。
- 参考スコア(独自算出の注目度): 14.497130575562698
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We consider the problem of learning robust discriminative representations of causally-related latent variables. In addition to observational data, the training dataset also includes interventional data obtained through targeted interventions on some of these latent variables to learn representations robust against the resulting interventional distribution shifts. Existing approaches treat interventional data like observational data, even when the underlying causal model is known, and ignore the independence relations that arise from these interventions. Since these approaches do not fully exploit the causal relational information resulting from interventions, they learn representations that produce large disparities in predictive performance on observational and interventional data, which worsens when the number of interventional training samples is limited. In this paper, (1) we first identify a strong correlation between this performance disparity and adherence of the representations to the independence conditions induced by the interventional causal model. (2) For linear models, we derive sufficient conditions on the proportion of interventional data in the training dataset, for which enforcing interventional independence between representations corresponding to the intervened node and its non-descendants lowers the error on interventional data. Combining these insights, (3) we propose RepLIn, a training algorithm to explicitly enforce this statistical independence during interventions. We demonstrate the utility of RepLIn on a synthetic dataset and on real image and text datasets on facial attribute classification and toxicity detection, respectively. Our experiments show that RepLIn is scalable with the number of nodes in the causal graph and is suitable to improve the robust representations against interventional distribution shifts of both continuous and discrete latent variables.
- Abstract(参考訳): 因果関係の潜伏変数の頑健な識別表現を学習する問題を考察する。
観察データに加えて、トレーニングデータセットには、これらの潜伏変数のいくつかに対するターゲット的介入を通じて得られた介入データが含まれ、結果として生じる介入分布シフトに対して堅牢な表現を学習する。
既存のアプローチでは、基礎となる因果関係モデルが知られている場合でも、観測データのような介入データを扱うことができ、これらの介入から生じる独立関係を無視している。
これらの手法は介入による因果関係情報を十分に活用していないため、介入訓練サンプルの数が限られている場合に悪化する観察的および介入的データに対する予測性能に大きな違いをもたらす表現を学習する。
本稿では,まず,介入因果モデルによって引き起こされる独立条件に対する,この性能格差と表現の定着性との間に強い相関関係を同定する。
2) 線形モデルでは, 介入データの割合について十分な条件を導出し, 介入ノードに対応する表現とその非依存者間の干渉独立を強制することにより, 介入データの誤りを低減させる。
これらの知見を組み合わせることで,介入中の統計的独立を明示的に実施するためのトレーニングアルゴリズムであるRepLInを提案する。
合成データセットと実画像とテキストデータセットにRepLInの有用性を示し, 顔属性分類と毒性検出について検討した。
実験の結果,RepLInは因果グラフのノード数に応じてスケーラブルであり,連続変数と離散変数の両方の干渉分布シフトに対する頑健な表現を改善するのに適していることがわかった。
関連論文リスト
- Learning Joint Interventional Effects from Single-Variable Interventions in Additive Models [49.567092222782435]
観察データと単変量介入のみを用いて共同介入効果の学習方法を示す。
本稿では,それぞれの介入変数に対する因果効果を,包括的かつ未確立な貢献に分解する実用的推定器を提案する。
論文 参考訳(メタデータ) (2025-06-05T12:20:50Z) - Causally Fair Node Classification on Non-IID Graph Data [9.363036392218435]
本稿では,フェアネスを考慮したMLアルゴリズムにおける課題について述べる。
非IID、グラフベースの設定の見落としている領域に取り組みます。
因果推論のためのメッセージパッシング変分オートエンコーダを開発した。
論文 参考訳(メタデータ) (2025-05-03T02:05:51Z) - Learning Mixtures of Unknown Causal Interventions [14.788930098406027]
構造方程式モデル(SEM)における干渉・観測データの混在化の課題について考察する。
本研究は, 混合液中の各成分を効率よく回収するために, 十分な多様性と特性を有する分布が得られるか, 軟らかいかにかかわらず, 干渉を施すことを実証する。
その結果、因果グラフは干渉的マルコフ等価クラスと同一視でき、ノイズが干渉的データの生成に影響を与えないシナリオと同様である。
論文 参考訳(メタデータ) (2024-10-31T21:25:11Z) - Identifiable Latent Neural Causal Models [82.14087963690561]
因果表現学習は、低レベルの観測データから潜伏した高レベルの因果表現を明らかにすることを目指している。
因果表現の識別可能性に寄与する分布シフトのタイプを決定する。
本稿では,本研究の成果を実用的なアルゴリズムに翻訳し,信頼性の高い潜在因果表現の取得を可能にする。
論文 参考訳(メタデータ) (2024-03-23T04:13:55Z) - Nonparametric Identifiability of Causal Representations from Unknown
Interventions [63.1354734978244]
本研究では, 因果表現学習, 潜伏因果変数を推定するタスク, およびそれらの変数の混合から因果関係を考察する。
我々のゴールは、根底にある真理潜入者とその因果グラフの両方を、介入データから解決不可能なあいまいさの集合まで識別することである。
論文 参考訳(メタデータ) (2023-06-01T10:51:58Z) - Differentiable Causal Discovery Under Latent Interventions [3.867363075280544]
最近の研究は、介入した変数が未知であっても、勾配に基づく手法による介入データを活用することにより因果発見の有望な結果を示している。
複数の介入分布と1つの観察分布からサンプリングされた広範囲なデータセットを用いたシナリオを想定するが、どの分布がそれぞれのサンプルに由来するのか、どのように介入がシステムに影響を及ぼすのかはわからない。
本稿では、ニューラルネットワークと変分推論に基づいて、無限混合物間の共用因果グラフを学習することで、このシナリオに対処する手法を提案する。
論文 参考訳(メタデータ) (2022-03-04T14:21:28Z) - Efficient Causal Inference from Combined Observational and
Interventional Data through Causal Reductions [68.6505592770171]
因果効果を推定する際の主な課題の1つである。
そこで本研究では,任意の数の高次元潜入共創者を置き換える新たな因果還元法を提案する。
パラメータ化縮小モデルを観測データと介入データから共同で推定する学習アルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-03-08T14:29:07Z) - On Disentangled Representations Learned From Correlated Data [59.41587388303554]
相関データに対する最も顕著な絡み合うアプローチの挙動を解析することにより、現実のシナリオにギャップを埋める。
本研究では,データセットの体系的相関が学習され,潜在表現に反映されていることを示す。
また、トレーニング中の弱い監督や、少数のラベルで事前訓練されたモデルを修正することで、これらの潜伏相関を解消する方法を実証する。
論文 参考訳(メタデータ) (2020-06-14T12:47:34Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。