論文の概要: Normalizing Flows for Interventional Density Estimation
- arxiv url: http://arxiv.org/abs/2209.06203v5
- Date: Tue, 20 Jun 2023 12:24:53 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-22 05:37:25.484226
- Title: Normalizing Flows for Interventional Density Estimation
- Title(参考訳): 介入密度推定のための正規化流れ
- Authors: Valentyn Melnychuk, Dennis Frauen, Stefan Feuerriegel
- Abstract要約: 我々は、インターベンショナル正規化フローと呼ばれる、新しい完全にパラメトリックなディープラーニング手法を提案する。
2つの正規化フロー,すなわち (i) ニュアンスパラメータを推定するためのニュアンスフロー, (ii) 潜在結果の密度をパラメトリックに推定するターゲットフローを組み合わせる。
- 参考スコア(独自算出の注目度): 18.640006398066188
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Existing machine learning methods for causal inference usually estimate
quantities expressed via the mean of potential outcomes (e.g., average
treatment effect). However, such quantities do not capture the full information
about the distribution of potential outcomes. In this work, we estimate the
density of potential outcomes after interventions from observational data. For
this, we propose a novel, fully-parametric deep learning method called
Interventional Normalizing Flows. Specifically, we combine two normalizing
flows, namely (i) a nuisance flow for estimating nuisance parameters and (ii) a
target flow for parametric estimation of the density of potential outcomes. We
further develop a tractable optimization objective based on a one-step bias
correction for efficient and doubly robust estimation of the target flow
parameters. As a result, our Interventional Normalizing Flows offer a properly
normalized density estimator. Across various experiments, we demonstrate that
our Interventional Normalizing Flows are expressive and highly effective, and
scale well with both sample size and high-dimensional confounding. To the best
of our knowledge, our Interventional Normalizing Flows are the first proper
fully-parametric, deep learning method for density estimation of potential
outcomes.
- Abstract(参考訳): 因果推論のための既存の機械学習手法は通常、潜在的な結果の平均(例えば平均的な治療効果)で表される量を推定する。
しかし、そのような量は潜在的な結果の分布に関する完全な情報を捉えていない。
本研究では,観察データから介入後の潜在的結果の密度を推定する。
そこで本研究では,介入正規化フローと呼ばれる新しい完全パラメトリック深層学習手法を提案する。
具体的には2つの正規化フロー、すなわち
(i)迷惑パラメータを推定するための迷惑フローと
(ii)潜在的な結果の密度をパラメトリックに推定するためのターゲットフロー。
さらに, 1 段階のバイアス補正に基づく移動性最適化目標を考案し, 目標流量パラメータの効率的かつ二重ロバストな推定を行う。
その結果、介入正規化フローは適切な正規化密度推定器を提供する。
種々の実験において, インターベンショナル正規化フローは表現的かつ高効率であり, サンプルサイズと高次元共起の両方でスケール可能であることを示した。
我々の知識を最大限に活用するために、我々のインターベンショナル正規化フローは、潜在的な結果の密度推定のための最初の適切な完全パラメトリック深層学習法である。
関連論文リスト
- Deep conditional distribution learning via conditional Föllmer flow [3.227277661633986]
本研究では,条件F"ollmer Flow"という条件分布を学習するための常微分方程式(ODE)に基づく深部生成手法を提案する。
効率的な実装のために、我々は、深層ニューラルネットワークを用いて非パラメトリックに速度場を推定するオイラー法を用いて流れを判別する。
論文 参考訳(メタデータ) (2024-02-02T14:52:10Z) - Sobolev Space Regularised Pre Density Models [51.558848491038916]
本研究では,ソボレフ法則の正則化に基づく非パラメトリック密度推定法を提案する。
この方法は統計的に一貫したものであり、帰納的検証モデルを明確かつ一貫したものにしている。
論文 参考訳(メタデータ) (2023-07-25T18:47:53Z) - Learned harmonic mean estimation of the marginal likelihood with
normalizing flows [6.219412541001482]
本稿では,サンプリング対象分布の重要度を表すために正規化フローを導入する。
学習されたハーモニック平均を実装するコードは公開されており、フローの正規化をサポートするように更新されている。
論文 参考訳(メタデータ) (2023-06-30T18:00:02Z) - Density Ratio Estimation-based Bayesian Optimization with Semi-Supervised Learning [5.346298077607419]
この課題を解決するために,半教師付き学習を用いた密度比推定に基づくベイズ最適化を提案する。
本手法の実証的な結果といくつかの基本手法を,未ラベルの点サンプリングと固定サイズのプールを持つ2つの異なるシナリオで示す。
論文 参考訳(メタデータ) (2023-05-24T23:01:56Z) - Joint Manifold Learning and Density Estimation Using Normalizing Flows [4.939777212813711]
問題に答えるために,1ピクセルあたりのペナル化と階層的トレーニングという2つのアプローチを導入する。
そこで本稿では,変換された空間をアンタングル化することで,共同多様体学習と密度推定を行う一段階法を提案する。
その結果, 共用多様体学習と密度推定において, 提案手法の優位性を検証した。
論文 参考訳(メタデータ) (2022-06-07T13:35:14Z) - Featurized Density Ratio Estimation [82.40706152910292]
本研究では,2つの分布を推定前の共通特徴空間にマッピングするために,可逆生成モデルを活用することを提案する。
この偉業化は、学習された入力空間の密度比が任意に不正確な場合、潜在空間において密度が密接な関係をもたらす。
同時に、特徴写像の可逆性は、特徴空間で計算された比が入力空間で計算された比と同値であることを保証する。
論文 参考訳(メタデータ) (2021-07-05T18:30:26Z) - Counterfactual Maximum Likelihood Estimation for Training Deep Networks [83.44219640437657]
深層学習モデルは、予測的手がかりとして学習すべきでない急激な相関を学習する傾向がある。
本研究では,観測可能な共同設立者による相関関係の緩和を目的とした因果関係に基づくトレーニングフレームワークを提案する。
自然言語推論(NLI)と画像キャプションという2つの実世界の課題について実験を行った。
論文 参考訳(メタデータ) (2021-06-07T17:47:16Z) - Continuous Wasserstein-2 Barycenter Estimation without Minimax
Optimization [94.18714844247766]
ワッサーシュタイン・バリセンターは、最適輸送に基づく確率測度の重み付き平均の幾何学的概念を提供する。
本稿では,Wasserstein-2 バリセンタのサンプルアクセスを演算するスケーラブルなアルゴリズムを提案する。
論文 参考訳(メタデータ) (2021-02-02T21:01:13Z) - Amortized Conditional Normalized Maximum Likelihood: Reliable Out of
Distribution Uncertainty Estimation [99.92568326314667]
本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。
提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。
我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
論文 参考訳(メタデータ) (2020-11-05T08:04:34Z) - Neural Methods for Point-wise Dependency Estimation [129.93860669802046]
我々は,2つの結果が共起する確率を定量的に測定する点依存度(PD)の推定に焦点をあてる。
提案手法の有効性を,1)MI推定,2)自己教師付き表現学習,3)クロスモーダル検索タスクで示す。
論文 参考訳(メタデータ) (2020-06-09T23:26:15Z) - On Deep Instrumental Variables Estimate [21.003925102068298]
ディープインスツルメンタル変数(IV)は、内在性に対処するディープニューラルネットワークに基づくフレームワークである。
線形インスツルメンタル変数モデルにおいて,ディープニューラルネットワークを用いた2段階推定器について検討する。
2段推定器が半パラメトリック効率境界を達成することを示す。
論文 参考訳(メタデータ) (2020-04-30T17:03:00Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。