論文の概要: Causality Pursuit from Heterogeneous Environments via Neural Adversarial Invariance Learning
- arxiv url: http://arxiv.org/abs/2405.04715v2
- Date: Sun, 30 Jun 2024 21:37:56 GMT
- ステータス: 処理完了
- システム内更新日: 2024-07-02 14:10:11.572443
- Title: Causality Pursuit from Heterogeneous Environments via Neural Adversarial Invariance Learning
- Title（参考訳）: ニューラル・ディバイサル不変学習による異種環境からの因果関係の探索
- Authors: Yihong Gu, Cong Fang, Peter Bühlmann, Jianqing Fan,
- Abstract要約: データから因果関係を抽出することは、科学的発見、治療介入、伝達学習における根本的な問題である。
Focused Adversial Invariant Regularization (FAIR) フレームワークは、革新的なミニマックス最適化アプローチを採用している。
FAIR-NNは最小の識別条件下で不変変数と準因果変数を見つけることができる。
- 参考スコア（独自算出の注目度）: 12.947265104477237
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Pursuing causality from data is a fundamental problem in scientific discovery, treatment intervention, and transfer learning. This paper introduces a novel algorithmic method for addressing nonparametric invariance and causality learning in regression models across multiple environments, where the joint distribution of response variables and covariates varies, but the conditional expectations of outcome given an unknown set of quasi-causal variables are invariant. The challenge of finding such an unknown set of quasi-causal or invariant variables is compounded by the presence of endogenous variables that have heterogeneous effects across different environments, including even one of them in the regression would make the estimation inconsistent. The proposed Focused Adversial Invariant Regularization (FAIR) framework utilizes an innovative minimax optimization approach that breaks down the barriers, driving regression models toward prediction-invariant solutions through adversarial testing. Leveraging the representation power of neural networks, FAIR neural networks (FAIR-NN) are introduced for causality pursuit. It is shown that FAIR-NN can find the invariant variables and quasi-causal variables under a minimal identification condition and that the resulting procedure is adaptive to low-dimensional composition structures in a non-asymptotic analysis. Under a structural causal model, variables identified by FAIR-NN represent pragmatic causality and provably align with exact causal mechanisms under conditions of sufficient heterogeneity. Computationally, FAIR-NN employs a novel Gumbel approximation with decreased temperature and stochastic gradient descent ascent algorithm. The procedures are convincingly demonstrated using simulated and real-data examples.
- Abstract（参考訳）: データから因果関係を抽出することは、科学的発見、治療介入、伝達学習における根本的な問題である。
本稿では,応答変数と共変量の共分散が変化する複数の環境における回帰モデルにおける非パラメトリックな不変性と因果学習に対処するアルゴリズムを提案するが,擬似因果変数の未知集合が与えられた結果の条件付き期待は不変である。
そのような未知の準因数変数や不変変数を見つけるという課題は、異なる環境にまたがって不均一な影響を持つ内在変数の存在によって複雑化される。
提案したFAIRフレームワークは、バリアを分解する革新的なミニマックス最適化アプローチを利用して、逆方向のテストを通じて回帰モデルを予測不変のソリューションに向けて駆動する。
ニューラルネットワークの表現力を活用して、因果探索のためにFAIR-NN(FAIR-NN)を導入する。
FAIR-NNは最小の識別条件下で不変変数や準因果変数を見つけることができ、その結果の手順が非漸近解析において低次元の組成構造に適応していることが示されている。
構造因果モデルの下では、FAIR-NNで同定された変数は実用的因果性を表し、十分な不均一性の条件下で正確な因果性機構を確実に一致させる。
FAIR-NNは、温度の低下と確率勾配勾配上昇アルゴリズムを備えた新しいガンベル近似を用いている。
これらの手順は、シミュレートされた実データ例を用いて、説得力のある実証を行う。
関連論文リスト
- DiffHybrid-UQ: Uncertainty Quantification for Differentiable Hybrid
Neural Modeling [4.76185521514135]
本稿では,ハイブリッドニューラル微分可能モデルにおける有効かつ効率的な不確実性伝播と推定のための新しい手法DiffHybrid-UQを提案する。
具体的には,データノイズとてんかんの不確かさから生じるアレタリック不確かさと,モデル形状の相違やデータ空間のばらつきから生じるエピステマティック不確かさの両方を効果的に識別し,定量化する。
論文 参考訳（メタデータ） (2023-12-30T07:40:47Z) - Selective Nonparametric Regression via Testing [54.20569354303575]
本研究では,所定の点における条件分散の値に関する仮説を検証し,留置手順を開発する。
既存の手法とは異なり、提案手法は分散自体の値だけでなく、対応する分散予測器の不確実性についても考慮することができる。
論文 参考訳（メタデータ） (2023-09-28T13:04:11Z) - Nonlinear Permuted Granger Causality [0.6526824510982799]
グランガー因果推論(Granger causal inference)は、経済学から神経科学まで幅広い分野において用いられる、論争的だが広範な手法である。
サンプル外比較を可能にするために、共変集合の置換を用いて関数接続の尺度を明示的に定義する。
変分法の性能を, シミュレーションによる変分選択, ナイーブ置換, 省略技術と比較した。
論文 参考訳（メタデータ） (2023-08-11T16:44:16Z) - GIT: Detecting Uncertainty, Out-Of-Distribution and Adversarial Samples
using Gradients and Invariance Transformations [77.34726150561087]
本稿では,ディープニューラルネットワークにおける一般化誤差検出のための総合的アプローチを提案する。
GITは勾配情報と不変変換の利用を組み合わせる。
本実験は,各種ネットワークアーキテクチャの最先端技術と比較して,GITの優れた性能を示すものである。
論文 参考訳（メタデータ） (2023-07-05T22:04:38Z) - Environment Invariant Linear Least Squares [18.387614531869826]
本稿では,複数の実験環境からのデータを収集する多環境線形回帰モデルについて考察する。
線形最小二乗回帰のマルチ環境バージョンである、新しい環境不変線形最小二乗関数(EILLS)を構築する。
論文 参考訳（メタデータ） (2023-03-06T13:10:54Z) - Score-based Causal Representation Learning with Interventions [54.735484409244386]
本稿では,潜在因果変数を間接的に観察する際の因果表現学習問題について検討する。
目的は、 (i) 未知の線形変換(スケーリングまで)を回復し、 (ii) 潜在変数の下の有向非巡回グラフ(DAG)を決定することである。
論文 参考訳（メタデータ） (2023-01-19T18:39:48Z) - Learning Invariant Representations under General Interventions on the
Response [2.725698729450241]
線形構造因果モデル(SCM)に着目し、不変整合性(IMP)を導入する。
離散環境と連続環境の両方において,本手法の一般化誤差を解析する。
論文 参考訳（メタデータ） (2022-08-22T03:09:17Z) - Equivariance Allows Handling Multiple Nuisance Variables When Analyzing
Pooled Neuroimaging Datasets [53.34152466646884]
本稿では,構造空間上でインスタンス化された同変表現学習における最近の結果と,因果推論における古典的結果の簡易な利用が,いかに効果的に実現されたかを示す。
いくつかの仮定の下で、我々のモデルが複数のニュアンス変数を扱えることを実証し、そうでなければサンプルの大部分を取り除く必要のあるシナリオにおいて、プールされた科学データセットの分析を可能にする。
論文 参考訳（メタデータ） (2022-03-29T04:54:06Z) - Variance Minimization in the Wasserstein Space for Invariant Causal
Prediction [72.13445677280792]
そこで本研究では,ICPで行ったアプローチを,予測器数で線形にスケールする一連の非パラメトリックテストとして再検討する。
これらのテストはそれぞれ、最適輸送理論の道具から導かれる新しい損失関数の最小化に依存している。
我々は,本手法が同定可能な直接原因の集合を回復できるという軽微な仮定の下で証明し,他のベンチマーク因果探索アルゴリズムと競合することを示す。
論文 参考訳（メタデータ） (2021-10-13T22:30:47Z) - Robust Reconfigurable Intelligent Surfaces via Invariant Risk and Causal
Representations [55.50218493466906]
本稿では,データ分布の変化に伴うロバスト再構成可能なインテリジェントサーフェス(ris)システム設計の問題について検討する。
不変リスク最小化(IRM)の概念を用いて、複数の環境にまたがる不変因果表現を用いて、予測器が各環境に対して同時に最適となるようにする。
予測器を探すためにニューラルネットワークベースのソリューションを採用し、その性能は経験的リスク最小化に基づく設計に対するシミュレーションによって検証される。
論文 参考訳（メタデータ） (2021-05-04T21:36:31Z) - Doubly Stochastic Variational Inference for Neural Processes with
Hierarchical Latent Variables [37.43541345780632]
本稿では,Double Variational Neural Process (DSVNP) と呼ぶニューラル・プロセス(NP)モデルを提案する。
本モデルでは,大域的潜伏変数と局所潜伏変数を組み合わせて予測を行い,このモデルをいくつかの実験で評価し,多出力回帰における競合予測性能と分類における不確実性評価を示す。
論文 参考訳（メタデータ） (2020-08-21T13:32:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。