論文の概要: Model-based causal feature selection for general response types
- arxiv url: http://arxiv.org/abs/2309.12833v1
- Date: Fri, 22 Sep 2023 12:42:48 GMT
- ステータス: 処理完了
- システム内更新日: 2023-09-25 14:41:33.097058
- Title: Model-based causal feature selection for general response types
- Title(参考訳): 一般応答型に対するモデルベース因果的特徴選択
- Authors: Lucas Kook, Sorawit Saengkyongam, Anton Rask Lundborg, Torsten
Hothorn, Jonas Peters
- Abstract要約: 一部のアプリケーションでは、基礎となる因果構造全体を学習するのではなく、与えられた応答変数の因果的特徴を学習することが十分である。
ICPは、不均一な設定からのデータを必要とする因果的特徴選択の手法である。
我々は、変換モデル(TRAM)の文脈でICPを開発し、連続的、分類的、カウント型、非形式的に検閲された応答を可能にする。
- 参考スコア(独自算出の注目度): 8.82800641622333
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Discovering causal relationships from observational data is a fundamental yet
challenging task. In some applications, it may suffice to learn the causal
features of a given response variable, instead of learning the entire
underlying causal structure. Invariant causal prediction (ICP, Peters et al.,
2016) is a method for causal feature selection which requires data from
heterogeneous settings. ICP assumes that the mechanism for generating the
response from its direct causes is the same in all settings and exploits this
invariance to output a subset of the causal features. The framework of ICP has
been extended to general additive noise models and to nonparametric settings
using conditional independence testing. However, nonparametric conditional
independence testing often suffers from low power (or poor type I error
control) and the aforementioned parametric models are not suitable for
applications in which the response is not measured on a continuous scale, but
rather reflects categories or counts. To bridge this gap, we develop ICP in the
context of transformation models (TRAMs), allowing for continuous, categorical,
count-type, and uninformatively censored responses (we show that, in general,
these model classes do not allow for identifiability when there is no exogenous
heterogeneity). We propose TRAM-GCM, a test for invariance of a subset of
covariates, based on the expected conditional covariance between environments
and score residuals which satisfies uniform asymptotic level guarantees. For
the special case of linear shift TRAMs, we propose an additional invariance
test, TRAM-Wald, based on the Wald statistic. We implement both proposed
methods in the open-source R package "tramicp" and show in simulations that
under the correct model specification, our approach empirically yields higher
power than nonparametric ICP based on conditional independence testing.
- Abstract(参考訳): 観測データから因果関係を発見することは、基本的には難しい課題である。
一部のアプリケーションでは、基礎となる因果構造全体を学習するのではなく、与えられた応答変数の因果的特徴を学習することが十分である。
Invariant causal prediction (ICP, Peters et al., 2016) は、異種設定のデータを必要とする因果的特徴選択の手法である。
ICPは、その直接的な原因から応答を生成するメカニズムがすべての設定で同じであると仮定し、この不変性を利用して因果的特徴のサブセットを出力する。
ICPのフレームワークは、一般的な付加雑音モデルや条件付き独立性テストを用いた非パラメトリック設定にまで拡張されている。
しかし、非パラメトリックな条件付き独立性テストは、しばしば低電力(または悪いタイプiのエラー制御)に苦しめられ、前述のパラメトリックモデルは、応答を連続的なスケールで測定するのではなく、カテゴリやカウントを反映するアプリケーションに適している。
このギャップを埋めるために、我々は変換モデル(TRAM)の文脈でICPを開発し、連続的、分類的、カウントタイプ、および非形式的に検閲された応答を可能にする(一般に、これらのモデルクラスは外生異種性がない場合に識別可能でない)。
本稿では,一様漸近レベル保証を満たす環境とスコア残差の条件共分散に基づいて,共変量のサブセットの不変性をテストするTRAM-GCMを提案する。
線形シフトTRAMの特別な場合については、ウォルド統計に基づくさらなる不変性試験TRAM-Waldを提案する。
提案手法をオープンソース r パッケージ "tramicp" に実装し,適切なモデル仕様の下で条件付き独立性テストに基づく非パラメトリック icp よりも高いパワーを実証的に得ることをシミュレーションで示す。
関連論文リスト
- Towards Robust Text Classification: Mitigating Spurious Correlations with Causal Learning [2.7813683000222653]
本稿では,因果関係へのモデル依存を軽減するために,因果相関ロバスト (CCR) を提案する。
CCRは、逆確率重み付け(IPW)損失関数とともに、反ファクト推論に基づく因果的特徴選択法を統合する。
グループラベルを持たないメソッド間でのCCRの最先端性能を示し、場合によってはグループラベルを利用するモデルと競合する。
論文 参考訳(メタデータ) (2024-11-01T21:29:07Z) - Evaluation of uncertainty estimations for Gaussian process regression based machine learning interatomic potentials [0.0]
機械学習の原子間ポテンシャルの不確実性推定は、導入した追加モデルエラーの定量化に不可欠である。
我々は、クーロンおよびSOAP表現を持つGPRモデルを、ポテンシャルエネルギー表面と分子の励起エネルギーを予測する入力として考える。
我々は,GPRの分散とアンサンブルに基づく不確かさが誤差とどのように関係しているか,また,固定された構成空間から最も不確実なサンプルを選択することによりモデル性能が向上するかを評価する。
論文 参考訳(メタデータ) (2024-10-27T10:06:09Z) - Causal Feature Selection via Transfer Entropy [59.999594949050596]
因果発見は、観察データによる特徴間の因果関係を特定することを目的としている。
本稿では,前向きと後向きの機能選択に依存する新たな因果的特徴選択手法を提案する。
精度および有限サンプルの場合の回帰誤差と分類誤差について理論的に保証する。
論文 参考訳(メタデータ) (2023-10-17T08:04:45Z) - Selective Nonparametric Regression via Testing [54.20569354303575]
本研究では,所定の点における条件分散の値に関する仮説を検証し,留置手順を開発する。
既存の手法とは異なり、提案手法は分散自体の値だけでなく、対応する分散予測器の不確実性についても考慮することができる。
論文 参考訳(メタデータ) (2023-09-28T13:04:11Z) - Nonlinear Permuted Granger Causality [0.6526824510982799]
グランガー因果推論(Granger causal inference)は、経済学から神経科学まで幅広い分野において用いられる、論争的だが広範な手法である。
サンプル外比較を可能にするために、共変集合の置換を用いて関数接続の尺度を明示的に定義する。
変分法の性能を, シミュレーションによる変分選択, ナイーブ置換, 省略技術と比較した。
論文 参考訳(メタデータ) (2023-08-11T16:44:16Z) - Nonparametric Identifiability of Causal Representations from Unknown
Interventions [63.1354734978244]
本研究では, 因果表現学習, 潜伏因果変数を推定するタスク, およびそれらの変数の混合から因果関係を考察する。
我々のゴールは、根底にある真理潜入者とその因果グラフの両方を、介入データから解決不可能なあいまいさの集合まで識別することである。
論文 参考訳(メタデータ) (2023-06-01T10:51:58Z) - Breaking the Spurious Causality of Conditional Generation via Fairness
Intervention with Corrective Sampling [77.15766509677348]
条件生成モデルは、トレーニングデータセットから急激な相関を継承することが多い。
これは別の潜在属性に対して不均衡なラベル条件分布をもたらす。
この問題を緩和するための一般的な2段階戦略を提案する。
論文 参考訳(メタデータ) (2022-12-05T08:09:33Z) - Predicting Out-of-Domain Generalization with Neighborhood Invariance [59.05399533508682]
局所変換近傍における分類器の出力不変性の尺度を提案する。
私たちの測度は計算が簡単で、テストポイントの真のラベルに依存しません。
画像分類,感情分析,自然言語推論のベンチマーク実験において,我々の測定値と実際のOOD一般化との間に強い相関関係を示す。
論文 参考訳(メタデータ) (2022-07-05T14:55:16Z) - Invariant Ancestry Search [6.583725235299022]
最小不変性の概念を導入し、不変祖先探索(IAS)を提案する。
集団版では、IASは応答の祖先のみを含む集合を出力し、ICPの出力である。
スケーラブルなアルゴリズムを開発し、シミュレーションおよび実データの実験を行う。
論文 参考訳(メタデータ) (2022-02-02T08:28:00Z) - Training on Test Data with Bayesian Adaptation for Covariate Shift [96.3250517412545]
ディープニューラルネットワークは、信頼できない不確実性推定で不正確な予測を行うことが多い。
分布シフトの下でのラベルなし入力とモデルパラメータとの明確に定義された関係を提供するベイズモデルを導出する。
本手法は精度と不確実性の両方を向上することを示す。
論文 参考訳(メタデータ) (2021-09-27T01:09:08Z) - NestedVAE: Isolating Common Factors via Weak Supervision [45.366986365879505]
我々は、バイアス低減の課題と、ドメイン間で共通する分離要因の関係を同定する。
共通因子を分離するために、潜伏変数モデルの理論と情報ボトルネック理論を組み合わせる。
共有重みを持つ2つの外部VAEは入力を再構成し、潜伏空間を推論し、一方、ネストされたVAEはペア化された画像の潜伏表現から1つの画像の潜伏表現を再構成しようとする。
論文 参考訳(メタデータ) (2020-02-26T15:49:57Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。