論文の概要: Regularizing Extrapolation in Causal Inference
- arxiv url: http://arxiv.org/abs/2509.17180v1
- Date: Sun, 21 Sep 2025 18:05:15 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-09-23 18:58:16.153005
- Title: Regularizing Extrapolation in Causal Inference
- Title(参考訳): 因果推論における正規化外挿法
- Authors: David Arbour, Harsh Parikh, Bijan Niknam, Elizabeth Stuart, Kara Rudolph, Avi Feller,
- Abstract要約: 我々は外挿のレベルを直接罰する統一的な枠組みを提案する。
最悪の外挿誤差を導出し、新しい「バイアスバイアス分散」トレードオフを導入する。
- 参考スコア(独自算出の注目度): 12.057981453189505
- License: http://creativecommons.org/licenses/by-nc-sa/4.0/
- Abstract: Many common estimators in machine learning and causal inference are linear smoothers, where the prediction is a weighted average of the training outcomes. Some estimators, such as ordinary least squares and kernel ridge regression, allow for arbitrarily negative weights, which improve feature imbalance but often at the cost of increased dependence on parametric modeling assumptions and higher variance. By contrast, estimators like importance weighting and random forests (sometimes implicitly) restrict weights to be non-negative, reducing dependence on parametric modeling and variance at the cost of worse imbalance. In this paper, we propose a unified framework that directly penalizes the level of extrapolation, replacing the current practice of a hard non-negativity constraint with a soft constraint and corresponding hyperparameter. We derive a worst-case extrapolation error bound and introduce a novel "bias-bias-variance" tradeoff, encompassing biases due to feature imbalance, model misspecification, and estimator variance; this tradeoff is especially pronounced in high dimensions, particularly when positivity is poor. We then develop an optimization procedure that regularizes this bound while minimizing imbalance and outline how to use this approach as a sensitivity analysis for dependence on parametric modeling assumptions. We demonstrate the effectiveness of our approach through synthetic experiments and a real-world application, involving the generalization of randomized controlled trial estimates to a target population of interest.
- Abstract(参考訳): 機械学習や因果推論における多くの一般的な推定子は線形スムースであり、予測はトレーニング結果の重み付き平均である。
通常の最小二乗や核尾根回帰のようないくつかの推定器は、任意の負の重み付けを可能にし、特徴の不均衡を改善するが、しばしばパラメトリックモデリングの仮定への依存が増大し、より高分散が生じる。
対照的に、重み付けや無作為森林(時には暗黙的に)のような推定者は、重み付けを非負に制限し、パラメトリックモデリングへの依存を減らし、不均衡を悪化させる。
本稿では,厳密な非負性制約の現在の実践をソフトな制約と対応するハイパーパラメータに置き換え,外挿のレベルを直接ペナルティ化する統一フレームワークを提案する。
我々は、最悪の外挿誤差を導出し、特徴不均衡、モデル不特定性、推定値の分散によるバイアスを包含する、新しい「バイアスバイアス分散」トレードオフを導入し、特に肯定的でない場合、特に高次元においてこのトレードオフは顕著である。
そこで我々は、この境界を最小化しながら正規化する最適化手法を開発し、パラメトリックモデリングの前提に依存する感度解析としてこのアプローチをどのように利用するかを概説する。
提案手法の有効性は, ランダム化比較試験を対象とする対象個体群への一般化を含む, 合成実験と実世界の応用を通して実証する。
関連論文リスト
- A Distributionally-Robust Framework for Nuisance in Causal Effect Estimation [1.3053649021965603]
因果推論では、治療群と対照群の間のバランスの取れた分布のモデルを評価する必要がある。
最も一般的な統計手法は、逆確率重み付け(IPW)によるこの分布シフトに対処するものである。
誤差一般化を分解してこれらの問題 - 正当性あいまいさと統計的不安定さ - を分離し, 対向損失関数を通して対処する。
論文 参考訳(メタデータ) (2025-05-23T10:34:28Z) - Revisiting Essential and Nonessential Settings of Evidential Deep Learning [70.82728812001807]
Evidential Deep Learning (EDL) は不確実性推定の新しい手法である。
本報告では,EDLの簡易かつ効果的な拡張型であるRe-EDLを提案する。
論文 参考訳(メタデータ) (2024-10-01T04:27:07Z) - Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。
我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
論文 参考訳(メタデータ) (2024-07-11T13:28:34Z) - Relaxed Quantile Regression: Prediction Intervals for Asymmetric Noise [51.87307904567702]
量子レグレッション(Quantile regression)は、出力の分布における量子の実験的推定を通じてそのような間隔を得るための主要なアプローチである。
本稿では、この任意の制約を除去する量子回帰に基づく区間構成の直接的な代替として、Relaxed Quantile Regression (RQR)を提案する。
これにより、柔軟性が向上し、望ましい品質が向上することが実証された。
論文 参考訳(メタデータ) (2024-06-05T13:36:38Z) - Fine-Grained Dynamic Framework for Bias-Variance Joint Optimization on Data Missing Not at Random [2.8165314121189247]
レコメンデーションシステムやディスプレイ広告など、ほとんどの実践的なアプリケーションでは、収集されたデータには欠落する値が含まれることが多い。
我々は,バイアスと分散を協調的に最適化する,体系的なきめ細かな動的学習フレームワークを開発した。
論文 参考訳(メタデータ) (2024-05-24T10:07:09Z) - A Stable and Efficient Covariate-Balancing Estimator for Causal Survival Effects [33.62020029799266]
本研究では、条件に依存しない検閲データにおける生存因果効果の推定の問題に対処する。
これは、小さな推定確率の逆数の使用と、その結果の推定誤差の増幅に対処する。
合成および半合成データに関する実験において理論的結果を検証する。
論文 参考訳(メタデータ) (2023-10-01T00:04:29Z) - Learning to Estimate Without Bias [57.82628598276623]
ガウスの定理は、重み付き最小二乗推定器は線形モデルにおける線形最小分散アンバイアスド推定(MVUE)であると述べている。
本稿では、バイアス制約のあるディープラーニングを用いて、この結果を非線形設定に拡張する第一歩を踏み出す。
BCEの第二の動機は、同じ未知の複数の推定値が平均化されてパフォーマンスが向上するアプリケーションにおいてである。
論文 参考訳(メタデータ) (2021-10-24T10:23:51Z) - Nonparametric inverse probability weighted estimators based on the
highly adaptive lasso [0.966840768820136]
非パラメトリック逆確率重み付き推定器は非効率であり、次元性の呪いに苦しむことが知られている。
高度適応型ラッソのアンダースムーシングにより重み付け機構を推定する非パラメトリック逆確率重み付き推定器のクラスを提案する。
我々の開発は、大規模統計モデルと様々な問題設定における効率的な逆確率重み付き推定器の構築に幅広い意味を持つ。
論文 参考訳(メタデータ) (2020-05-22T17:49:46Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。