論文の概要: Double Machine Learning for Conditional Moment Restrictions: IV Regression, Proximal Causal Learning and Beyond
- arxiv url: http://arxiv.org/abs/2506.14950v2
- Date: Mon, 23 Jun 2025 18:27:16 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-06-25 13:29:37.696892
- Title: Double Machine Learning for Conditional Moment Restrictions: IV Regression, Proximal Causal Learning and Beyond
- Title(参考訳): 条件付きモーメント制限のためのダブル機械学習:IV 回帰、近位因果学習など
- Authors: Daqian Shao, Ashkan Soleymani, Francesco Quinzan, Marta Kwiatkowska,
- Abstract要約: 条件モーメント制限(CMR)は統計学、因果推論、計量学において重要な問題である。
ほとんどのCMR推定器は2段階の手法を用いており、第1段階の推定は第2段階に直接差し込んで関心の関数を推定する。
DML-CMRは、2段階のCMR推定器であり、高速収束率を保証する不偏推定を提供する。
- 参考スコア(独自算出の注目度): 16.842233444365764
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Solving conditional moment restrictions (CMRs) is a key problem considered in statistics, causal inference, and econometrics, where the aim is to solve for a function of interest that satisfies some conditional moment equalities. Specifically, many techniques for causal inference, such as instrumental variable (IV) regression and proximal causal learning (PCL), are CMR problems. Most CMR estimators use a two-stage approach, where the first-stage estimation is directly plugged into the second stage to estimate the function of interest. However, naively plugging in the first-stage estimator can cause heavy bias in the second stage. This is particularly the case for recently proposed CMR estimators that use deep neural network (DNN) estimators for both stages, where regularisation and overfitting bias is present. We propose DML-CMR, a two-stage CMR estimator that provides an unbiased estimate with fast convergence rate guarantees. We derive a novel learning objective to reduce bias and develop the DML-CMR algorithm following the double/debiased machine learning (DML) framework. We show that our DML-CMR estimator can achieve the minimax optimal convergence rate of $O(N^{-1/2})$ under parameterisation and mild regularity conditions, where $N$ is the sample size. We apply DML-CMR to a range of problems using DNN estimators, including IV regression and proximal causal learning on real-world datasets, demonstrating state-of-the-art performance against existing CMR estimators and algorithms tailored to those problems.
- Abstract(参考訳): 条件モーメント制限の解決(CMRs)は統計学、因果推論、計量学において重要な問題であり、条件モーメントの等式を満たす関心関数を解くことを目的としている。
具体的には、器用変数(IV)回帰や近位因果学習(PCL)など、因果推論のための多くのテクニックがCMR問題である。
ほとんどのCMR推定器は2段階の手法を用いており、第1段階の推定は第2段階に直接差し込んで関心の関数を推定する。
しかし、第1段推定器に鼻で差し込むと、第2段では大きなバイアスが発生する。
特に、最近提案されたCMR推定器では、両方の段階でディープニューラルネットワーク(DNN)推定器を使用し、正規化と過度なバイアスが存在する。
DML-CMRは、2段階のCMR推定器であり、高速収束率を保証する不偏推定を提供する。
バイアスを低減し、ダブル/デバイアスド機械学習(DML)フレームワークに従ってDML-CMRアルゴリズムを開発するための新しい学習目標を導出する。
我々のDML-CMR推定器はパラメータ化と軽度規則性条件下では$O(N^{-1/2})$の最小収束率を達成でき、ここでは$N$はサンプルサイズである。
DNN推定器を用いてDML-CMRを適用し、実世界のデータセット上でのIV回帰と近位因果学習、既存のCMR推定器やそれらの問題に適したアルゴリズムに対する最先端の性能を示す。
関連論文リスト
- Automatic Double Reinforcement Learning in Semiparametric Markov Decision Processes with Applications to Long-Term Causal Inference [33.14076284663493]
マルコフ決定プロセス(MDP)は、状態、行動、報酬のシーケンスとして結果をモデル化するための原則化されたフレームワークを提供する。
本稿では,Q関数の線形関数に対する統計的に効率的なモデルロバスト推論のための,Double Reinforcement Learning (DRL) の半パラメトリック拡張を提案する。
アイソトニック・ベルマン・キャリブレーションに基づく新しいデバイアスド・プラグイン推定器を開発し,適合Q-itとアイソトニック・レグレッション・ステップを統合した。
論文 参考訳(メタデータ) (2025-01-12T20:35:28Z) - Automatic debiasing of neural networks via moment-constrained learning [0.0]
偏差推定器の回帰関数をネーティブに学習し,対象関数のサンプル平均値を取得する。
本稿では,自動脱バイアスの欠点に対処する新しいRR学習手法として,モーメント制約学習を提案する。
論文 参考訳(メタデータ) (2024-09-29T20:56:54Z) - Provably Efficient CVaR RL in Low-rank MDPs [58.58570425202862]
リスクに敏感な強化学習(RL)について検討する。
本稿では, CVaR RLにおける探索, 搾取, 表現学習の相互作用のバランスをとるための, 新たなアッパー信頼境界(UCB)ボーナス駆動アルゴリズムを提案する。
提案アルゴリズムは,各エピソードの長さが$H$,アクション空間が$A$,表現の次元が$d$であるような,エプシロン$最適CVaRのサンプル複雑性を実現する。
論文 参考訳(メタデータ) (2023-11-20T17:44:40Z) - Multiply Robust Estimator Circumvents Hyperparameter Tuning of Neural
Network Models in Causal Inference [0.0]
乗算ロバスト (MR) 推定器は1つの推定器で全ての第一段階モデルを活用できる。
MR は方程式の幅広いクラスの解であり、処理モデルの一つが $sqrtn$ consistent であれば一貫した値であることを示す。
論文 参考訳(メタデータ) (2023-07-20T02:31:12Z) - Robust Causal Learning for the Estimation of Average Treatment Effects [14.96459402684986]
本稿では,Double/Debiased Machine Learning (DML) 推定器の欠陥を相殺するRobust Causal Learning (RCL) 手法を提案する。
実験の結果,RCL推定器はDML推定器よりも,因果パラメータの安定な推定を行うことがわかった。
論文 参考訳(メタデータ) (2022-09-05T07:35:58Z) - On Continual Model Refinement in Out-of-Distribution Data Streams [64.62569873799096]
現実世界の自然言語処理(NLP)モデルは、アウト・オブ・ディストリビューション(OOD)データストリームの予測エラーを修正するために、継続的に更新する必要がある。
既存の継続学習(CL)問題設定は、そのような現実的で複雑なシナリオをカバーできない。
連続モデル改良(CMR)と呼ばれる新しいCL問題定式化を提案する。
論文 参考訳(メタデータ) (2022-05-04T11:54:44Z) - Doubly Robust Distributionally Robust Off-Policy Evaluation and Learning [59.02006924867438]
オフ政治評価と学習(OPE/L)は、オフラインの観察データを使用してより良い意思決定を行う。
近年の研究では、分散ロバストなOPE/L (DROPE/L) が提案されているが、この提案は逆正則重み付けに依存している。
KL分散不確実性集合を用いたDROPE/Lの最初のDRアルゴリズムを提案する。
論文 参考訳(メタデータ) (2022-02-19T20:00:44Z) - Learning to Estimate Without Bias [57.82628598276623]
ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。
本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。
BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
論文 参考訳(メタデータ) (2021-10-24T10:23:51Z) - SLOE: A Faster Method for Statistical Inference in High-Dimensional
Logistic Regression [68.66245730450915]
実用データセットに対する予測の偏見を回避し、頻繁な不確実性を推定する改善された手法を開発している。
私たちの主な貢献は、推定と推論の計算時間をマグニチュードの順序で短縮する収束保証付き信号強度の推定器SLOEです。
論文 参考訳(メタデータ) (2021-03-23T17:48:56Z) - Localized Debiased Machine Learning: Efficient Inference on Quantile
Treatment Effects and Beyond [69.83813153444115]
因果推論における(局所)量子化処理効果((L)QTE)の効率的な推定式を検討する。
Debiased Machine Learning (DML)は、高次元のニュアンスを推定するデータ分割手法である。
本稿では、この負担のかかるステップを避けるために、局所的脱バイアス機械学習(LDML)を提案する。
論文 参考訳(メタデータ) (2019-12-30T14:42:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。