論文の概要: Orthogonal Statistical Learning
- arxiv url: http://arxiv.org/abs/1901.09036v4
- Date: Tue, 6 Jun 2023 01:44:42 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-08 00:26:51.023017
- Title: Orthogonal Statistical Learning
- Title（参考訳）: 直交統計的学習
- Authors: Dylan J. Foster and Vasilis Syrgkanis
- Abstract要約: 人口リスクが未知のニュアンスパラメータに依存するような環境では,統計学習における非漸近的過剰リスク保証を提供する。
人口リスクがNeymanityと呼ばれる条件を満たす場合,メタアルゴリズムによって達成される過剰リスクに対するニュアンス推定誤差の影響は2次であることを示す。
- 参考スコア（独自算出の注目度）: 49.55515683387805
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We provide non-asymptotic excess risk guarantees for statistical learning in
a setting where the population risk with respect to which we evaluate the
target parameter depends on an unknown nuisance parameter that must be
estimated from data. We analyze a two-stage sample splitting meta-algorithm
that takes as input arbitrary estimation algorithms for the target parameter
and nuisance parameter. We show that if the population risk satisfies a
condition called Neyman orthogonality, the impact of the nuisance estimation
error on the excess risk bound achieved by the meta-algorithm is of second
order. Our theorem is agnostic to the particular algorithms used for the target
and nuisance and only makes an assumption on their individual performance. This
enables the use of a plethora of existing results from machine learning to give
new guarantees for learning with a nuisance component. Moreover, by focusing on
excess risk rather than parameter estimation, we can provide rates under weaker
assumptions than in previous works and accommodate settings in which the target
parameter belongs to a complex nonparametric class. We provide conditions on
the metric entropy of the nuisance and target classes such that oracle rates of
the same order as if we knew the nuisance parameter are achieved.
- Abstract（参考訳）: 対象パラメータを評価する人口リスクが、データから推定しなければならない未知の迷惑パラメータに依存する場合において、統計的学習のための非漸近的過剰リスク保証を提供する。
目的パラメータとニュアンスパラメータの任意の推定アルゴリズムを入力とするメタアルゴリズムを2段階に分けて解析する。
人口リスクがネイマン直交性(Neyman orthogonality)と呼ばれる条件を満たす場合,メタアルゴリズムによって達成される過剰リスクに対するニュアンス推定誤差の影響は2次であることを示す。
我々の定理は、ターゲットとニュアンスに使用される特定のアルゴリズムに非依存であり、個々の性能についてのみ仮定する。
これにより、マシンラーニングによる既存の結果を大量に使用することで、迷惑コンポーネントによる学習に対する新たな保証が可能になる。
さらに,パラメータ推定よりも過剰なリスクに注目することで,従来よりも弱い仮定下での確率を提示し,対象パラメータが複雑な非パラメトリッククラスに属する設定を適応させることができる。
私たちは、迷惑パラメータが達成されたと知っていれば、oracleレートが同じ順序になるように、迷惑パラメータとターゲットクラスのメトリックエントロピーに関する条件を提供します。
関連論文リスト
- Information-Theoretic Safe Bayesian Optimization [59.758009422067005]
そこでは、未知の(安全でない)制約に反するパラメータを評価することなく、未知の関数を最適化することを目的としている。
現在のほとんどのメソッドはドメインの離散化に依存しており、連続ケースに直接拡張することはできない。
本稿では,GP後部を直接利用して,最も情報に富む安全なパラメータを識別する情報理論的安全な探索基準を提案する。
論文 参考訳（メタデータ） (2024-02-23T14:31:10Z) - Likelihood Ratio Confidence Sets for Sequential Decision Making [51.66638486226482]
確率に基づく推論の原理を再検討し、確率比を用いて妥当な信頼シーケンスを構築することを提案する。
本手法は, 精度の高い問題に特に適している。
提案手法は,オンライン凸最適化への接続に光を当てることにより,推定器の最適シーケンスを確実に選択する方法を示す。
論文 参考訳（メタデータ） (2023-11-08T00:10:21Z) - Optimal estimation of pure states with displaced-null measurements [0.0]
純粋量子状態の未知パラメータを推定する問題を再検討する。
本研究では,実験者が真のシステム状態に近いベクトルを含む基準で測定することを目指すヌル測度戦略について検討する。
論文 参考訳（メタデータ） (2023-10-10T16:46:24Z) - Kernel Debiased Plug-in Estimation: Simultaneous, Automated Debiasing without Influence Functions for Many Target Parameters [1.5999407512883512]
本稿では,Emph kernel plug-in Estimation (KDPE) という新しい手法を提案する。
KDPEは、我々の規則性条件を満たす経路的に異なるターゲットパラメータを同時に除くことを示す。
我々は、KDPEの使用法を数値的に説明し、理論結果を検証した。
論文 参考訳（メタデータ） (2023-06-14T15:58:50Z) - A Tale of Sampling and Estimation in Discounted Reinforcement Learning [50.43256303670011]
割引平均推定問題に対して最小値の最小値を求める。
マルコフ過程の割引されたカーネルから直接サンプリングすることで平均を推定すると、説得力のある統計的性質が得られることを示す。
論文 参考訳（メタデータ） (2023-04-11T09:13:17Z) - Mitigating multiple descents: A model-agnostic framework for risk
monotonization [84.6382406922369]
クロスバリデーションに基づくリスクモノトナイズのための一般的なフレームワークを開発する。
本稿では,データ駆動方式であるゼロステップとワンステップの2つの手法を提案する。
論文 参考訳（メタデータ） (2022-05-25T17:41:40Z) - Partial Identification with Noisy Covariates: A Robust Optimization
Approach [94.10051154390237]
観測データセットからの因果推論は、しばしば共変量の測定と調整に依存する。
このロバストな最適化手法により、広範囲な因果調整法を拡張し、部分的同定を行うことができることを示す。
合成および実データセット全体で、このアプローチは既存の手法よりも高いカバレッジ確率でATEバウンダリを提供する。
論文 参考訳（メタデータ） (2022-02-22T04:24:26Z) - Nonparametric Estimation of Uncertainty Sets for Robust Optimization [2.741266294612776]
本研究では、ロバスト最適化問題に対する不確実性集合構築のためのデータ駆動手法について検討する。
確率質量が与えられた目標質量に近似することが保証された不確実性集合を推定するための非パラメトリック手法を提供する。
論文 参考訳（メタデータ） (2020-04-07T01:47:55Z) - Selective machine learning of doubly robust functionals [6.880360838661036]
半パラメトリックモデル上で定義された有限次元関数に関する推論を行うための選択的機械学習フレームワークを提案する。
疑似リスクの新たな定義に基づき、興味の機能を推定する際のバイアス低減を目的とした新しい選択基準を導入する。
論文 参考訳（メタデータ） (2019-11-05T19:00:03Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。