論文の概要: Optimal Nuisance Function Tuning for Estimating a Doubly Robust Functional under Proportional Asymptotics
- arxiv url: http://arxiv.org/abs/2509.25536v1
- Date: Mon, 29 Sep 2025 21:46:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-01 17:09:04.341413
- Title: Optimal Nuisance Function Tuning for Estimating a Doubly Robust Functional under Proportional Asymptotics
- Title(参考訳): 局所無症候下での二重ロバスト関数推定のための最適ニュアンス関数チューニング
- Authors: Sean McGrath, Debarghya Mukherjee, Rajarshi Mukherjee, Zixiao Jolene Wang,
- Abstract要約: 我々は,既存のECC推定器3つと,必要なニュアンス関数を推定するための2つのサンプル分割戦略を評価する。
我々のバイアス補正戦略は、異なるサンプル分割戦略と推定器の選択で$sqrtn$-consistent estimatorが生成されることを示す。
解析の結果、予測調整パラメータ(すなわち、ニュアンス関数を最適に推定するパラメータ)は、ECC推定器の最低分散に繋がらないことが明らかとなった。
- 参考スコア(独自算出の注目度): 9.86496801565209
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this paper, we explore the asymptotically optimal tuning parameter choice in ridge regression for estimating nuisance functions of a statistical functional that has recently gained prominence in conditional independence testing and causal inference. Given a sample of size $n$, we study estimators of the Expected Conditional Covariance (ECC) between variables $Y$ and $A$ given a high-dimensional covariate $X \in \mathbb{R}^p$. Under linear regression models for $Y$ and $A$ on $X$ and the proportional asymptotic regime $p/n \to c \in (0, \infty)$, we evaluate three existing ECC estimators and two sample splitting strategies for estimating the required nuisance functions. Since no consistent estimator of the nuisance functions exists in the proportional asymptotic regime without imposing further structure on the problem, we first derive debiased versions of the ECC estimators that utilize the ridge regression nuisance function estimators. We show that our bias correction strategy yields $\sqrt{n}$-consistent estimators of the ECC across different sample splitting strategies and estimator choices. We then derive the asymptotic variances of these debiased estimators to illustrate the nuanced interplay between the sample splitting strategy, estimator choice, and tuning parameters of the nuisance function estimators for optimally estimating the ECC. Our analysis reveals that prediction-optimal tuning parameters (i.e., those that optimally estimate the nuisance functions) may not lead to the lowest asymptotic variance of the ECC estimator -- thereby demonstrating the need to be careful in selecting tuning parameters based on the final goal of inference. Finally, we verify our theoretical results through extensive numerical experiments.
- Abstract(参考訳): 本稿では,最近,条件付き独立性試験や因果推論において顕著となった統計関数のニュアンス関数を推定するためのリッジ回帰における漸近的最適チューニングパラメータ選択について検討する。
大きさ$n$のサンプルを与えられた場合、変数 $Y$ と $A$ の間の期待条件共分散(ECC)の推定器について、高次元の共変数 $X \in \mathbb{R}^p$ を与えられる。
Y$と$A$の線形回帰モデルと比例漸近的レジーム$p/n \to c \in (0, \infty)$では、既存のECC推定器3つと、必要なニュアンス関数を推定するための2つのサンプル分割戦略を評価する。
本研究はまず,尾根回帰ニュアンス関数推定器を用いたECC推定器の劣化バージョンを導出する。
我々のバイアス補正戦略は、異なるサンプル分割戦略と推定器の選択により、ECCの$\sqrt{n}$-consistent estimatorsが生成されることを示す。
次に、これらの偏りのある推定器の漸近的変動を導出し、サンプル分割戦略、推定器の選択、およびECCを最適に推定するためのニュアンス関数推定器のパラメータのチューニングの微妙な相互作用を説明する。
解析の結果、予測最適チューニングパラメータ(すなわち、最適にニュアンス関数を推定するパラメータ)は、ECC推定器の漸近的な最も低い分散に繋がらないことが判明した。
最後に,この理論結果を広範囲な数値実験により検証する。
関連論文リスト
- Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。
我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
論文 参考訳(メタデータ) (2024-07-11T13:28:34Z) - Kernel-based off-policy estimation without overlap: Instance optimality
beyond semiparametric efficiency [53.90687548731265]
本研究では,観測データに基づいて線形関数を推定するための最適手順について検討する。
任意の凸および対称函数クラス $mathcalF$ に対して、平均二乗誤差で有界な非漸近局所ミニマックスを導出する。
論文 参考訳(メタデータ) (2023-01-16T02:57:37Z) - Nuisance Function Tuning and Sample Splitting for Optimal Doubly Robust Estimation [5.018363990542611]
二重頑健な非パラメトリック関数に対する収束率の最適値を求めるために、ニュアンス関数を推定する方法の問題点を考察する。
プラグインおよび一階偏り補正された推定器は、ニュアンス関数のすべてのH"古い滑らか度クラスに対して収束の最小値が得られることを示す。
論文 参考訳(メタデータ) (2022-12-30T18:17:06Z) - Off-policy estimation of linear functionals: Non-asymptotic theory for
semi-parametric efficiency [59.48096489854697]
観測データに基づいて線形汎関数を推定する問題は、因果推論と包帯文献の両方において標準的である。
このような手順の平均二乗誤差に対して非漸近上界を証明した。
非漸近的局所ミニマックス下限をマッチングすることにより、有限標本のインスタンス依存最適性を確立する。
論文 参考訳(メタデータ) (2022-09-26T23:50:55Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - On the Estimation of Derivatives Using Plug-in Kernel Ridge Regression
Estimators [4.392844455327199]
非パラメトリック回帰における単純なプラグインカーネルリッジ回帰(KRR)推定器を提案する。
我々は,提案した推定器の挙動を統一的に研究するために,非漸近解析を行う。
提案した推定器は、導関数の任意の順序に対するチューニングパラメータを同じ選択で最適収束率を達成する。
論文 参考訳(メタデータ) (2020-06-02T02:32:39Z) - SUMO: Unbiased Estimation of Log Marginal Probability for Latent
Variable Models [80.22609163316459]
無限級数のランダム化トランケーションに基づく潜在変数モデルに対して、ログ境界確率の非バイアス推定器とその勾配を導入する。
推定器を用いてトレーニングしたモデルは、同じ平均計算コストに対して、標準的な重要度サンプリングに基づくアプローチよりも優れたテストセット確率を与えることを示す。
論文 参考訳(メタデータ) (2020-04-01T11:49:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。