論文の概要: An Analysis of the Adaptation Speed of Causal Models
- arxiv url: http://arxiv.org/abs/2005.09136v2
- Date: Thu, 25 Feb 2021 11:48:05 GMT
- ステータス: 処理完了
- システム内更新日: 2022-12-01 23:03:12.995324
- Title: An Analysis of the Adaptation Speed of Causal Models
- Title(参考訳): 因果モデルの適応速度の解析
- Authors: R\'emi Le Priol, Reza Babanezhad Harikandeh, Yoshua Bengio and Simon
Lacoste-Julien
- Abstract要約: 最近、Bengioらは、すべての候補モデルの中で、$G$は、あるデータセットから別のデータセットに適応する最速のモデルであると推測した。
最適化からの収束率を用いた原因影響SCMの適応速度について検討する。
驚くべきことに、私たちは反因果モデルが有利である状況を見つけ、初期仮説を偽造する。
- 参考スコア(独自算出の注目度): 80.77896315374747
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Consider a collection of datasets generated by unknown interventions on an
unknown structural causal model $G$. Recently, Bengio et al. (2020) conjectured
that among all candidate models, $G$ is the fastest to adapt from one dataset
to another, along with promising experiments. Indeed, intuitively $G$ has less
mechanisms to adapt, but this justification is incomplete. Our contribution is
a more thorough analysis of this hypothesis. We investigate the adaptation
speed of cause-effect SCMs. Using convergence rates from stochastic
optimization, we justify that a relevant proxy for adaptation speed is distance
in parameter space after intervention. Applying this proxy to categorical and
normal cause-effect models, we show two results. When the intervention is on
the cause variable, the SCM with the correct causal direction is advantaged by
a large factor. When the intervention is on the effect variable, we
characterize the relative adaptation speed. Surprisingly, we find situations
where the anticausal model is advantaged, falsifying the initial hypothesis.
Code to reproduce experiments is available at
https://github.com/remilepriol/causal-adaptation-speed
- Abstract(参考訳): 未知の構造的因果モデル上で未知の介入によって生成されるデータセットの集合を考えてみよう。
最近、bengio et al. (2020) は、全ての候補モデルの中で、$g$が有望な実験とともに、データセットからデータセットへ適応する最速であると予想した。
実際、直感的には$G$は適応する機構が小さいが、この正当化は不完全である。
私たちの貢献は、この仮説のより詳細な分析です。
原因影響SCMの適応速度について検討する。
確率的最適化による収束率を用いて,適応速度の関連指標は介入後のパラメータ空間における距離であることを示す。
このプロキシを分類的および通常の原因影響モデルに適用すると、2つの結果が得られる。
介入が原因変数である場合には、適切な因果方向のSCMを大きな要因で活用する。
介入が効果変数にある場合、相対適応速度を特徴付ける。
驚くべきことに、私たちは反因果モデルが有利である状況を見つけ、初期仮説を偽造する。
実験を再現するコードはhttps://github.com/remilepriol/causal-adaptation-speedで入手できる。
関連論文リスト
- Hypothesizing Missing Causal Variables with LLMs [55.28678224020973]
我々は、入力が欠落変数を持つ部分因果グラフであるような新しいタスクを定式化し、出力は部分グラフを完成させるための欠落変数に関する仮説である。
原因と効果の間の媒介変数を仮説化するLLMの強い能力を示す。
また,オープンソースモデルの一部がGPT-4モデルより優れているという驚くべき結果も得られた。
論文 参考訳(メタデータ) (2024-09-04T10:37:44Z) - Adaptation Speed Analysis for Fairness-aware Causal Models [34.116613732724815]
機械翻訳タスクでは、2つの言語間の双方向翻訳を実現するために、ソースコーパスがターゲットコーパスとしてしばしば使用される。
ドメインシフトに最も早く適応できるかという問題は、多くの分野において非常に重要である。
論文 参考訳(メタデータ) (2023-08-31T17:36:57Z) - Hawkes Processes with Delayed Granger Causality [9.664517084506718]
多変量ホークスプロセスに基づく遅延グランガー因果効果を明示的にモデル化する。
時間ラグの後方分布を推測し、この分布が様々なシナリオでどのように変化するかを理解する。
我々は,合成データと実データに基づいて,我々のモデルの事象予測と時間ラグ推定精度を実証的に評価した。
論文 参考訳(メタデータ) (2023-08-11T12:43:43Z) - Distinguishing Cause from Effect on Categorical Data: The Uniform
Channel Model [0.0]
一対の確率変数の観測による効果による原因の識別は因果発見における中核的な問題である。
分類変数を用いた原因影響問題に対処するための基準を提案する。
我々は、条件付き確率質量関数が一様チャネル(UC)に最も近い因果方向として選択する。
論文 参考訳(メタデータ) (2023-03-14T13:54:11Z) - Decoding Causality by Fictitious VAR Modeling [0.0]
まず, 虚ベクトル自己回帰モデルを用いて, 因果関係の平衡を設定した。
平衡において、長期の関係はノイズから特定され、突発関係は無視的に0に近い。
また、気候変動に対する因果要因の寄与を推定するためのアプローチも適用する。
論文 参考訳(メタデータ) (2021-11-14T22:43:02Z) - Variance Minimization in the Wasserstein Space for Invariant Causal
Prediction [72.13445677280792]
そこで本研究では,ICPで行ったアプローチを,予測器数で線形にスケールする一連の非パラメトリックテストとして再検討する。
これらのテストはそれぞれ、最適輸送理論の道具から導かれる新しい損失関数の最小化に依存している。
我々は,本手法が同定可能な直接原因の集合を回復できるという軽微な仮定の下で証明し,他のベンチマーク因果探索アルゴリズムと競合することを示す。
論文 参考訳(メタデータ) (2021-10-13T22:30:47Z) - On the Role of Optimization in Double Descent: A Least Squares Study [30.44215064390409]
最小二乗対象の降下勾配解に対して過大なリスクを負うことを示す。
ノイズのない回帰の場合、二重降下は最適化関連量によってのみ説明される。
ニューラルネットワークの予測が保たれているかどうかを実証的に調査する。
論文 参考訳(メタデータ) (2021-07-27T09:13:11Z) - Variational Causal Networks: Approximate Bayesian Inference over Causal
Structures [132.74509389517203]
離散DAG空間上の自己回帰分布をモデル化したパラメトリック変分族を導入する。
実験では,提案した変分後部が真の後部を良好に近似できることを示した。
論文 参考訳(メタデータ) (2021-06-14T17:52:49Z) - Multivariate Probabilistic Regression with Natural Gradient Boosting [63.58097881421937]
多変量予測分布の条件パラメータを非パラメトリックにモデル化したNatural Gradient Boosting (NGBoost) 手法を提案する。
提案手法は頑健で, 広範囲なチューニングを伴わず, 推定対象分布に対してモジュール構造であり, 既存の手法と比較して競争力がある。
論文 参考訳(メタデータ) (2021-06-07T17:44:49Z) - Counterfactual Invariance to Spurious Correlations: Why and How to Pass
Stress Tests [87.60900567941428]
素早い相関」とは、アナリストが重要とすべきでないと考える入力データのある側面に対するモデルの依存である。
機械学習では、これらにはノウ・イ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ・ウ」という特徴がある。
因果推論ツールを用いたストレステストについて検討した。
論文 参考訳(メタデータ) (2021-05-31T14:39:38Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。