論文の概要: It's Hard to Be Normal: The Impact of Noise on Structure-agnostic Estimation
- arxiv url: http://arxiv.org/abs/2507.02275v1
- Date: Thu, 03 Jul 2025 03:31:45 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-04 15:37:15.571029
- Title: It's Hard to Be Normal: The Impact of Noise on Structure-agnostic Estimation
- Title(参考訳): ノーマルであることは難しい: 騒音が構造に依存しない推定に与える影響
- Authors: Jikai Jin, Lester Mackey, Vasilis Syrgkanis,
- Abstract要約: 本研究では,ブラックボックス機械学習によるニュアンス関数の処理効果を推定する方法について検討する。
この答えは, 治療音の分布に大きく依存していることが判明した。
- 参考スコア(独自算出の注目度): 38.61560534969323
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Structure-agnostic causal inference studies how well one can estimate a treatment effect given black-box machine learning estimates of nuisance functions (like the impact of confounders on treatment and outcomes). Here, we find that the answer depends in a surprising way on the distribution of the treatment noise. Focusing on the partially linear model of \citet{robinson1988root}, we first show that the widely adopted double machine learning (DML) estimator is minimax rate-optimal for Gaussian treatment noise, resolving an open problem of \citet{mackey2018orthogonal}. Meanwhile, for independent non-Gaussian treatment noise, we show that DML is always suboptimal by constructing new practical procedures with higher-order robustness to nuisance errors. These \emph{ACE} procedures use structure-agnostic cumulant estimators to achieve $r$-th order insensitivity to nuisance errors whenever the $(r+1)$-st treatment cumulant is non-zero. We complement these core results with novel minimax guarantees for binary treatments in the partially linear model. Finally, using synthetic demand estimation experiments, we demonstrate the practical benefits of our higher-order robust estimators.
- Abstract(参考訳): 構造に依存しない因果推論は、ブラックボックス機械学習がニュアンス関数(共同設立者が治療と結果に与える影響など)を推定すると、どのように治療効果を推定できるかを研究する。
ここでは, 治療音の分布は, 意外な方法で解答が導かれる。
最初に, 広範に採用されているダブル機械学習(DML)推定器は, ガウス処理ノイズに対する極小最大速度最適化であり, 開問題である<citet{mackey2018orthogonal}の解法であることを示す。
一方, 独立した非ガウス処理ノイズに対しては, DML が常に準最適であることを示す。
これらの \emph{ACE} プロシージャは、構造に依存しない累積推定器を使用して、$(r+1)$-st 処理累積が 0 でないときに、ニュアンスエラーに対する$r$-th 次不感度を達成する。
これらのコア結果は、部分線形モデルにおける二項処理に対する新しいミニマックス保証と補完する。
最後に、合成需要推定実験を用いて、高次ロバスト推定器の実用的利点を実証する。
関連論文リスト
- Accelerated zero-order SGD under high-order smoothness and overparameterized regime [79.85163929026146]
凸最適化問題を解くための新しい勾配のないアルゴリズムを提案する。
このような問題は医学、物理学、機械学習で発生する。
両種類の雑音下で提案アルゴリズムの収束保証を行う。
論文 参考訳(メタデータ) (2024-11-21T10:26:17Z) - Optimal Rates and Saturation for Noiseless Kernel Ridge Regression [4.585021053685196]
ノイズレスシステムにおけるカーネルリッジ回帰(KRR)の総合的研究について述べる。
KRRは有限標本から関数を学習するための基本的な方法である。
我々は、カーネルメソッドの解析に広く適用可能な、洗練された自由度の概念を導入する。
論文 参考訳(メタデータ) (2024-02-24T04:57:59Z) - Multiply Robust Estimator Circumvents Hyperparameter Tuning of Neural
Network Models in Causal Inference [0.0]
乗算ロバスト (MR) 推定器は1つの推定器で全ての第一段階モデルを活用できる。
MR は方程式の幅広いクラスの解であり、処理モデルの一つが $sqrtn$ consistent であれば一貫した値であることを示す。
論文 参考訳(メタデータ) (2023-07-20T02:31:12Z) - Online Bootstrap Inference with Nonconvex Stochastic Gradient Descent
Estimator [0.0]
本稿では,凸問題の文脈における統計的推論のための勾配降下(SGD)の理論的性質について検討する。
多重誤差最小値を含む2つの干渉手順を提案する。
論文 参考訳(メタデータ) (2023-06-03T22:08:10Z) - Robust Matrix Completion with Heavy-tailed Noise [0.5837881923712392]
本稿では,重み付き潜在的非対称雑音の存在下での低ランク行列の完全性について検討する。
本稿では,大規模かつ非対称な誤りに対して頑健な重み付き雑音に適応するハマー損失を適応的に適用する。
誤差の2番目のモーメント条件下では、ユークリッド誤差は最小値の統計的推定誤差に到達するまで幾何的に早く落ちることが証明される。
論文 参考訳(メタデータ) (2022-06-09T04:48:48Z) - Optimal policy evaluation using kernel-based temporal difference methods [78.83926562536791]
カーネルヒルベルト空間を用いて、無限水平割引マルコフ報酬過程の値関数を推定する。
我々は、関連するカーネル演算子の固有値に明示的に依存した誤差の非漸近上界を導出する。
MRP のサブクラスに対する minimax の下位境界を証明する。
論文 参考訳(メタデータ) (2021-09-24T14:48:20Z) - High Probability Complexity Bounds for Non-Smooth Stochastic Optimization with Heavy-Tailed Noise [51.31435087414348]
アルゴリズムが高い確率で小さな客観的残差を与えることを理論的に保証することが不可欠である。
非滑らか凸最適化の既存の方法は、信頼度に依存した複雑性境界を持つ。
そこで我々は,勾配クリッピングを伴う2つの手法に対して,新たなステップサイズルールを提案する。
論文 参考訳(メタデータ) (2021-06-10T17:54:21Z) - Binary Classification of Gaussian Mixtures: Abundance of Support
Vectors, Benign Overfitting and Regularization [39.35822033674126]
生成ガウス混合モデルに基づく二項線形分類について検討する。
後者の分類誤差に関する新しい非漸近境界を導出する。
この結果は, 確率が一定である雑音モデルに拡張される。
論文 参考訳(メタデータ) (2020-11-18T07:59:55Z) - Learning Halfspaces with Tsybakov Noise [50.659479930171585]
テュバコフ雑音の存在下でのハーフスペースの学習可能性について検討する。
真半空間に関して誤分類誤差$epsilon$を達成するアルゴリズムを与える。
論文 参考訳(メタデータ) (2020-06-11T14:25:02Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。