論文の概要: A step towards the applicability of algorithms based on invariant causal
learning on observational data
- arxiv url: http://arxiv.org/abs/2304.02286v1
- Date: Wed, 5 Apr 2023 08:15:57 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-06 13:12:18.479928
- Title: A step towards the applicability of algorithms based on invariant causal
learning on observational data
- Title(参考訳): 観測データを用いた不変因果学習に基づくアルゴリズムの適用可能性に関する研究
- Authors: Borja Guerrero Santillan
- Abstract要約: 本稿では、因果発見手法と効率よく統合された不変因果予測(ICP)を適用する方法について述べる。
また,本手法とICPを効果的に統合して因果発見を行う方法について述べる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Machine learning can benefit from causal discovery for interpretation and
from causal inference for generalization. In this line of research, a few
invariant learning algorithms for out-of-distribution (OOD) generalization have
been proposed by using multiple training environments to find invariant
relationships. Some of them are focused on causal discovery as Invariant Causal
Prediction (ICP), which finds causal parents of a variable of interest, and
some directly provide a causal optimal predictor that generalizes well in OOD
environments as Invariant Risk Minimization (IRM). This group of algorithms
works under the assumption of multiple environments that represent different
interventions in the causal inference context. Those environments are not
normally available when working with observational data and real-world
applications. Here we propose a method to generate them in an efficient way. We
assess the performance of this unsupervised learning problem by implementing
ICP on simulated data. We also show how to apply ICP efficiently integrated
with our method for causal discovery. Finally, we proposed an improved version
of our method in combination with ICP for datasets with multiple covariates
where ICP and other causal discovery methods normally degrade in performance.
- Abstract(参考訳): 機械学習は、解釈のための因果発見と一般化のための因果推論の恩恵を受けることができる。
本研究では,複数の学習環境を用いて不変関係を求めることで,od(out-of-distribution)一般化のためのいくつかの不変学習アルゴリズムが提案されている。
Invariant Causal Prediction (ICP) として因果発見に重点を置いており、興味のある変数の因果親を見つけ、直接的に因果的最適予測器を提供し、不変リスク最小化 (IRM) としてOOD環境でうまく一般化する。
このアルゴリズム群は、因果推論コンテキストにおける異なる介入を表す複数の環境の仮定の下で動作する。
これらの環境は通常、観測データや現実世界のアプリケーションを扱うときに利用できない。
本稿では,効率的な方法で生成する手法を提案する。
シミュレーションデータにicpを実装することにより,教師なし学習問題の性能を評価する。
また,本手法とicpを効率的に統合して因果発見を行う方法を示す。
最後に,ICPや他の因果発見手法が通常性能を低下させるような複数の共変量を持つデータセットに対して,ICPと組み合わせて改良した手法を提案する。
関連論文リスト
- Embedding Trajectory for Out-of-Distribution Detection in Mathematical Reasoning [50.84938730450622]
数理推論におけるOOD検出にトラジェクトリボラティリティを用いたトラジェクトリベースのTVスコアを提案する。
本手法は, 数学的推論シナリオ下でのGLM上での従来のアルゴリズムよりも優れる。
提案手法は,複数選択質問などの出力空間における高密度特徴を持つアプリケーションに拡張することができる。
論文 参考訳(メタデータ) (2024-05-22T22:22:25Z) - Self-Supervised Learning with Lie Symmetries for Partial Differential
Equations [25.584036829191902]
我々は、自己教師付き学習(SSL)のための共同埋め込み手法を実装することにより、PDEの汎用表現を学習する。
我々の表現は、PDEの係数の回帰などの不変タスクに対するベースラインアプローチよりも優れており、また、ニューラルソルバのタイムステッピング性能も向上している。
提案手法がPDEの汎用基盤モデルの開発に有効であることを期待する。
論文 参考訳(メタデータ) (2023-07-11T16:52:22Z) - On the Need of a Modeling Language for Distribution Shifts: Illustrations on Tabular Datasets [30.518020409197767]
5つのデータセットと6万のメソッド構成にまたがる自然なシフトを含む実験的なテストベッドを構築します。
ML文献のX$(co)シフトに重きを置いているのとは対照的に、Y|X$-shiftsはテストベッドでもっとも一般的です。
論文 参考訳(メタデータ) (2023-07-11T14:25:10Z) - Provably Efficient UCB-type Algorithms For Learning Predictive State
Representations [55.00359893021461]
逐次決定問題は、予測状態表現(PSR)によってモデル化された低ランク構造が認められる場合、統計的に学習可能である
本稿では,推定モデルと実モデル間の全変動距離を上限とする新しいボーナス項を特徴とする,PSRに対する最初のUCB型アプローチを提案する。
PSRに対する既存のアプローチとは対照的に、UCB型アルゴリズムは計算的トラクタビリティ、最優先の準最適ポリシー、モデルの精度が保証される。
論文 参考訳(メタデータ) (2023-07-01T18:35:21Z) - Effect-Invariant Mechanisms for Policy Generalization [3.701112941066256]
不変条件分布を利用して、目に見えない環境をより一般化するモデルを学ぶことが提案されている。
効果不変性(英語版)と呼ばれる完全な不変性の緩和を導入し、ゼロショットポリシーの一般化には適切な仮定の下で十分であることを示す。
シミュレーションデータと移動体保健介入データセットを用いて実験結果を提示し,本手法の有効性を実証した。
論文 参考訳(メタデータ) (2023-06-19T14:50:24Z) - Decorr: Environment Partitioning for Invariant Learning and OOD Generalization [10.799855921851332]
不変学習手法は、複数の環境にまたがる一貫した予測器を特定することを目的としている。
データに固有の環境がなければ、実践者はそれらを手動で定義しなければならない。
この環境分割は不変学習の有効性に影響を及ぼすが、いまだ過小評価されていない。
本稿では,低相関データサブセットを分離することで,データセットを複数の環境に分割することを提案する。
論文 参考訳(メタデータ) (2022-11-18T06:49:35Z) - Differentiable Invariant Causal Discovery [106.87950048845308]
観測データから因果構造を学ぶことは、機械学習の基本的な課題である。
本稿では,不特定変分因果解法(DICD)を提案する。
合成および実世界のデータセットに関する大規模な実験は、DICDがSHDの36%まで最先端の因果発見手法より優れていることを検証している。
論文 参考訳(メタデータ) (2022-05-31T09:29:07Z) - Kernelized Heterogeneous Risk Minimization [25.5458915855661]
我々はカーネル空間における潜伏探索と不変学習の両方を実現するカーネル化不均一リスク最小化(KerHRM)アルゴリズムを提案する。
理論的にアルゴリズムを正当化し、広範囲な実験でアルゴリズムの有効性を実証的に検証する。
論文 参考訳(メタデータ) (2021-10-24T12:26:50Z) - Counterfactual Maximum Likelihood Estimation for Training Deep Networks [83.44219640437657]
深層学習モデルは、予測的手がかりとして学習すべきでない急激な相関を学習する傾向がある。
本研究では,観測可能な共同設立者による相関関係の緩和を目的とした因果関係に基づくトレーニングフレームワークを提案する。
自然言語推論(NLI)と画像キャプションという2つの実世界の課題について実験を行った。
論文 参考訳(メタデータ) (2021-06-07T17:47:16Z) - DEALIO: Data-Efficient Adversarial Learning for Imitation from
Observation [57.358212277226315]
観察ifoからの模倣学習において、学習エージェントは、実演者の生成した制御信号にアクセスせずに、実演行動の観察のみを用いて実演エージェントを模倣しようとする。
近年、逆模倣学習に基づく手法は、ifO問題に対する最先端のパフォーマンスをもたらすが、データ非効率でモデルなしの強化学習アルゴリズムに依存するため、サンプルの複雑さに悩まされることが多い。
この問題は、サンプルの収集が時間、エネルギー、およびリスクの面で高いコストを被る可能性がある現実世界の設定に展開することは非現実的です。
よりデータ効率の高いifOアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-03-31T23:46:32Z) - Invariant Causal Prediction for Block MDPs [106.63346115341862]
環境全体にわたる一般化は、実世界の課題への強化学習アルゴリズムの適用の成功に不可欠である。
本稿では,多環境環境における新しい観測を一般化するモデル不適合状態抽象化(MISA)を学習するための不変予測法を提案する。
論文 参考訳(メタデータ) (2020-03-12T21:03:01Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。