論文の概要: The Variational Method of Moments
- arxiv url: http://arxiv.org/abs/2012.09422v4
- Date: Wed, 22 Mar 2023 21:49:23 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-24 20:01:32.284836
- Title: The Variational Method of Moments
- Title(参考訳): モーメントの変分法
- Authors: Andrew Bennett, Nathan Kallus
- Abstract要約: 条件モーメント問題は、観測可能量の観点から構造因果パラメータを記述するための強力な定式化である。
OWGMMの変動最小値再構成により、条件モーメント問題に対する非常に一般的な推定器のクラスを定義する。
同じ種類の変分変換に基づく統計的推測のためのアルゴリズムを提供する。
- 参考スコア(独自算出の注目度): 65.91730154730905
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The conditional moment problem is a powerful formulation for describing
structural causal parameters in terms of observables, a prominent example being
instrumental variable regression. A standard approach reduces the problem to a
finite set of marginal moment conditions and applies the optimally weighted
generalized method of moments (OWGMM), but this requires we know a finite set
of identifying moments, can still be inefficient even if identifying, or can be
theoretically efficient but practically unwieldy if we use a growing sieve of
moment conditions. Motivated by a variational minimax reformulation of OWGMM,
we define a very general class of estimators for the conditional moment
problem, which we term the variational method of moments (VMM) and which
naturally enables controlling infinitely-many moments. We provide a detailed
theoretical analysis of multiple VMM estimators, including ones based on kernel
methods and neural nets, and provide conditions under which these are
consistent, asymptotically normal, and semiparametrically efficient in the full
conditional moment model. We additionally provide algorithms for valid
statistical inference based on the same kind of variational reformulations,
both for kernel- and neural-net-based varieties. Finally, we demonstrate the
strong performance of our proposed estimation and inference algorithms in a
detailed series of synthetic experiments.
- Abstract(参考訳): 条件モーメント問題は、可観測性の観点から構造因果パラメータを記述するための強力な定式化である。
標準的なアプローチでは、問題を限界モーメント条件の有限集合に還元し、最適に重み付けされたモーメントの一般化法(OWGMM)を適用するが、これは有限集合の識別モーメントを知っていなければならない。
OWGMMの変分極小修正により、条件モーメント問題に対する非常に一般的な推定器のクラスを定義し、このクラスはモーメントの変分法(VMM)と呼ばれ、無限個のモーメントを自然に制御できる。
カーネル法とニューラルネットに基づく複数のVMM推定器の詳細な理論的解析を行い、これらが完全条件モーメントモデルにおいて一貫した、漸近的に正常で半パラメトリックに効率的である条件を提供する。
さらに,カーネルとニューラルネットに基づく多様体に対して,同じ種類の変分的再構成に基づく妥当な統計的推論のためのアルゴリズムを提供する。
最後に,提案した推定および推論アルゴリズムの強い性能を,詳細な合成実験で実証する。
関連論文リスト
- Online Variational Sequential Monte Carlo [49.97673761305336]
我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。
オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
論文 参考訳(メタデータ) (2023-12-19T21:45:38Z) - Monotonic Neural Ordinary Differential Equation: Time-series Forecasting
for Cumulative Data [9.03818193356305]
ニューラル常微分方程式の枠組みの中で, 単調ニューラル正規微分方程式 (MODE) と呼ばれる原理的アプローチを提案する。
MODEを利用することで、実用的な累積データにおける単調性と不規則性を効果的に捉え、表現することができる。
MODEは, 累積データにおける単調性と不規則性の両方を扱う能力を示し, 最先端の手法より優れていることを示す。
論文 参考訳(メタデータ) (2023-09-23T18:40:10Z) - Spectral Representation Learning for Conditional Moment Models [33.34244475589745]
本研究では,不適切度を制御した表現を自動学習する手法を提案する。
本手法は,条件付き期待演算子のスペクトル分解によって定義される線形表現を近似する。
この表現をデータから効率的に推定できることを示し、得られた推定値に対してL2整合性を確立する。
論文 参考訳(メタデータ) (2022-10-29T07:48:29Z) - Functional Generalized Empirical Likelihood Estimation for Conditional
Moment Restrictions [19.39005034948997]
一般化経験的可能性(GEL)に基づく新しい推定法を提案する。
GELはより一般的なフレームワークを提供しており、GMMベースの推定器と比較して、より好ましい小さなサンプル特性を享受していることが示されている。
本研究では,2つの条件付きモーメント制約問題に対して,最先端の実証性能を実現するための,カーネルとニューラルネットワークによる推定器の実装を提案する。
論文 参考訳(メタデータ) (2022-07-11T11:02:52Z) - Continuous-Time Modeling of Counterfactual Outcomes Using Neural
Controlled Differential Equations [84.42837346400151]
反現実的な結果を予測することは、パーソナライズされたヘルスケアをアンロックする可能性がある。
既存の因果推論アプローチでは、観察と治療決定の間の通常の離散時間間隔が考慮されている。
そこで本研究では,腫瘍増殖モデルに基づく制御可能なシミュレーション環境を提案する。
論文 参考訳(メタデータ) (2022-06-16T17:15:15Z) - Accelerated and instance-optimal policy evaluation with linear function
approximation [17.995515643150657]
既存のアルゴリズムはこれらの下界の少なくとも1つと一致しない。
我々は,両下界を同時に一致させる高速時間差分アルゴリズムを開発し,インスタンス最適性という強い概念を実現する。
論文 参考訳(メタデータ) (2021-12-24T17:21:04Z) - Amortized Conditional Normalized Maximum Likelihood: Reliable Out of
Distribution Uncertainty Estimation [99.92568326314667]
本研究では,不確実性推定のための拡張性のある汎用的アプローチとして,償却条件正規化最大値(ACNML)法を提案する。
提案アルゴリズムは条件付き正規化最大度(CNML)符号化方式に基づいており、最小記述長の原理に従って最小値の最適特性を持つ。
我々は、ACNMLが、分布外入力のキャリブレーションの観点から、不確実性推定のための多くの手法と好意的に比較することを示した。
論文 参考訳(メタデータ) (2020-11-05T08:04:34Z) - Density Fixing: Simple yet Effective Regularization Method based on the
Class Prior [2.3859169601259347]
本稿では,教師付き・半教師付き学習によく用いられる密度固定法という正規化手法の枠組みを提案する。
提案手法は,モデルの事前分布や発生頻度を近似させることで,一般化性能を向上させる。
論文 参考訳(メタデータ) (2020-07-08T04:58:22Z) - Is Temporal Difference Learning Optimal? An Instance-Dependent Analysis [102.29671176698373]
我々は、割引決定過程における政策評価の問題に対処し、生成モデルの下で、ll_infty$errorに対するマルコフに依存した保証を提供する。
我々は、ポリシー評価のために、局所ミニマックス下限の両漸近バージョンと非漸近バージョンを確立し、アルゴリズムを比較するためのインスタンス依存ベースラインを提供する。
論文 参考訳(メタデータ) (2020-03-16T17:15:28Z) - Optimization with Momentum: Dynamical, Control-Theoretic, and Symplectic
Perspectives [97.16266088683061]
この論文は、運動量に基づく最適化アルゴリズムにおいてシンプレクティックな離散化スキームが重要であることを厳格に証明している。
これは加速収束を示すアルゴリズムの特性を提供する。
論文 参考訳(メタデータ) (2020-02-28T00:32:47Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。