論文の概要: Uncertainty Principles in Risk-Aware Statistical Estimation
- arxiv url: http://arxiv.org/abs/2104.14283v1
- Date: Thu, 29 Apr 2021 12:06:53 GMT
- ステータス: 処理完了
- システム内更新日: 2021-04-30 12:48:09.171819
- Title: Uncertainty Principles in Risk-Aware Statistical Estimation
- Title(参考訳): リスクアウェア統計推定における不確実性原理
- Authors: Nikolas P. Koumpis and Dionysios S. Kalogerias
- Abstract要約: リスク対応統計推定のための新しい不確実性原理を提案する。
平均二乗誤差(mse$)とリスクの間の本質的にのトレードオフを効果的に定量化する。
- 参考スコア(独自算出の注目度): 4.721069729610892
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We present a new uncertainty principle for risk-aware statistical estimation,
effectively quantifying the inherent trade-off between mean squared error
($\mse$) and risk, the latter measured by the associated average predictive
squared error variance ($\sev$), for every admissible estimator of choice. Our
uncertainty principle has a familiar form and resembles fundamental and
classical results arising in several other areas, such as the Heisenberg
principle in statistical and quantum mechanics, and the Gabor limit (time-scale
trade-offs) in harmonic analysis. In particular, we prove that, provided a
joint generative model of states and observables, the product between $\mse$
and $\sev$ is bounded from below by a computable model-dependent constant,
which is explicitly related to the Pareto frontier of a recently studied
$\sev$-constrained minimum $\mse$ (MMSE) estimation problem. Further, we show
that the aforementioned constant is inherently connected to an intuitive new
and rigorously topologically grounded statistical measure of distribution
skewness in multiple dimensions, consistent with Pearson's moment coefficient
of skewness for variables on the line. Our results are also illustrated via
numerical simulations.
- Abstract(参考訳): 本稿では,平均二乗誤差($\mse$)と平均二乗誤差($\sev$)との間の固有トレードオフを効果的に定量化する,リスク対応統計推定のための新しい不確実性原理を提案する。
我々の不確実性原理は慣れ親しんだ形式であり、統計力学や量子力学におけるハイゼンベルクの原理や調和解析におけるガボル極限(時間スケールトレードオフ)など、他のいくつかの領域で生じる基礎的および古典的結果に似ている。
特に、状態と可観測性の合同生成モデルにより、$\mse$ と $\sev$ の間の積は下から計算可能なモデル依存定数によって境界づけられることが証明され、これは最近研究された$\sev$-constrained minimum $\mse$ (mmse) 推定問題のparetoフロンティアと明確に関連している。
さらに, 上述の定数は, 直線上の変数に対するピアソンのスキューネスモーメント係数と一致し, 多次元の分布スキューネスの直観的かつ厳密な位相的接地統計尺度と本質的に関連していることを示す。
この結果は数値シミュレーションによっても示される。
関連論文リスト
- Selective Nonparametric Regression via Testing [54.20569354303575]
本研究では,所定の点における条件分散の値に関する仮説を検証し,留置手順を開発する。
既存の手法とは異なり、提案手法は分散自体の値だけでなく、対応する分散予測器の不確実性についても考慮することができる。
論文 参考訳(メタデータ) (2023-09-28T13:04:11Z) - On the Variance, Admissibility, and Stability of Empirical Risk
Minimization [80.26309576810844]
2乗損失を持つ経験的リスク最小化(ERM)は、極小最適誤差率に達する可能性がある。
軽微な仮定では、ERMの準最適性はばらつきよりも大きなバイアスによるものでなければならない。
また、我々の推定は、非ドンスカー類に対するCaponnetto と Rakhlin (2006) の主な結果を補完する ERM の安定性を示唆している。
論文 参考訳(メタデータ) (2023-05-29T15:25:48Z) - The Implicit Delta Method [61.36121543728134]
本稿では,不確実性のトレーニング損失を無限に正規化することで機能する,暗黙のデルタ法を提案する。
有限差分により無限小変化が近似された場合でも, 正則化による評価の変化は評価推定器の分散に一定であることを示す。
論文 参考訳(メタデータ) (2022-11-11T19:34:17Z) - Excess risk analysis for epistemic uncertainty with application to
variational inference [110.4676591819618]
我々は、未知の分布からデータが生成される頻繁なセッティングにおいて、新しいEU分析を提示する。
一般化能力と、予測分布の分散やエントロピーなど、広く使用されているEUの測定値との関係を示す。
本研究では,PAC-ベイジアン理論に基づく予測とEU評価性能を直接制御する新しい変分推論を提案する。
論文 参考訳(メタデータ) (2022-06-02T12:12:24Z) - Probabilistic learning inference of boundary value problem with
uncertainties based on Kullback-Leibler divergence under implicit constraints [0.0]
本稿では,境界値問題に対する後続確率モデルを事前確率モデルから推定できる確率論的学習推定法を提案する。
制約を表す暗黙マッピングの統計的代理モデルを導入する。
第2部では、提案した理論を説明するために応用を提示し、また、不均一な線形弾性媒体の3次元均質化への寄与も示している。
論文 参考訳(メタデータ) (2022-02-10T16:00:10Z) - On Well-posedness and Minimax Optimal Rates of Nonparametric Q-function
Estimation in Off-policy Evaluation [1.575865518040625]
連続状態と行動を伴う無限水平マルコフ決定過程における非政治評価問題について検討する。
我々は、$Q$関数推定を非パラメトリックインスツルメンタル変数(NPIV)推定問題の特別な形式に再キャストする。
論文 参考訳(メタデータ) (2022-01-17T01:09:38Z) - Non asymptotic estimation lower bounds for LTI state space models with
Cram\'er-Rao and van Trees [1.14219428942199]
本研究では,未知の共分散のガウス励起を持つ線形時間不変(LTI)状態空間モデルに対する推定問題について検討する。
予測される推定誤差と最小二乗推定器の平均二乗推定リスクに対して非下界を与える。
その結果, 推定リスクを期待して, 既存の下限を下限に拡張し, 改善した。
論文 参考訳(メタデータ) (2021-09-17T15:00:25Z) - Divergence Frontiers for Generative Models: Sample Complexity,
Quantization Level, and Frontier Integral [58.434753643798224]
多様性フロンティアは生成モデルの評価フレームワークとして提案されている。
分岐フロンティアのプラグイン推定器のサンプル複雑性の非漸近的境界を確立する。
また,スムーズな分布推定器の統計的性能を調べることにより,分散フロンティアの枠組みも強化する。
論文 参考訳(メタデータ) (2021-06-15T06:26:25Z) - Distributionally Robust Parametric Maximum Likelihood Estimation [13.09499764232737]
パラメトリックな名目分布に対して,最悪の場合のログロスを均一に最小化する,分布的に頑健な最大確率推定器を提案する。
我々の新しい頑健な推定器は、統計的整合性も享受し、回帰と分類の両方に有望な実験結果を提供する。
論文 参考訳(メタデータ) (2020-10-11T19:05:49Z) - On lower bounds for the bias-variance trade-off [0.0]
高次元統計モデルでは、速度-最適推定器は二乗バイアスと分散のバランスをとるのが一般的である。
本稿では, 既定境界よりも小さい偏差を持つ任意の推定器の分散に関する下限を求める一般戦略を提案する。
これは、バイアス分散トレードオフがどの程度避けられないかを示し、従わないメソッドのパフォーマンスの損失を定量化することができる。
論文 参考訳(メタデータ) (2020-05-30T14:07:43Z) - GenDICE: Generalized Offline Estimation of Stationary Values [108.17309783125398]
重要なアプリケーションでは,効果的な推定が依然として可能であることを示す。
我々のアプローチは、定常分布と経験分布の差を補正する比率を推定することに基づいている。
結果として得られるアルゴリズム、GenDICEは単純で効果的である。
論文 参考訳(メタデータ) (2020-02-21T00:27:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。