論文の概要: Statistical Barriers to Affine-equivariant Estimation
- arxiv url: http://arxiv.org/abs/2310.10758v1
- Date: Mon, 16 Oct 2023 18:42:00 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-18 19:16:46.146675
- Title: Statistical Barriers to Affine-equivariant Estimation
- Title(参考訳): アフィン同変推定に対する統計的障壁
- Authors: Zihao Chen, Yeshwanth Cherapanamjeri
- Abstract要約: 本研究では,ロバスト平均推定のためのアフィン同変推定器の定量的性能について検討する。
古典的推定器は定量的に準最適であるか、あるいは量的保証が欠如していることが分かる。
我々は、下界にほぼ一致する新しいアフィン同変推定器を構築する。
- 参考スコア(独自算出の注目度): 10.077727846124633
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We investigate the quantitative performance of affine-equivariant estimators
for robust mean estimation. As a natural stability requirement, the
construction of such affine-equivariant estimators has been extensively studied
in the statistics literature. We quantitatively evaluate these estimators under
two outlier models which have been the subject of much recent work: the
heavy-tailed and adversarial corruption settings. We establish lower bounds
which show that affine-equivariance induces a strict degradation in recovery
error with quantitative rates degrading by a factor of $\sqrt{d}$ in both
settings. We find that classical estimators such as the Tukey median (Tukey
'75) and Stahel-Donoho estimator (Stahel '81 and Donoho '82) are either
quantitatively sub-optimal even within the class of affine-equivariant
estimators or lack any quantitative guarantees. On the other hand, recent
estimators with strong quantitative guarantees are not affine-equivariant or
require additional distributional assumptions to achieve it. We remedy this by
constructing a new affine-equivariant estimator which nearly matches our lower
bound. Our estimator is based on a novel notion of a high-dimensional median
which may be of independent interest. Notably, our results are applicable more
broadly to any estimator whose performance is evaluated in the Mahalanobis norm
which, for affine-equivariant estimators, corresponds to an evaluation in
Euclidean norm on isotropic distributions.
- Abstract(参考訳): 我々は,ロバスト平均推定のためのアフィン同変推定器の定量的性能について検討した。
自然安定要件として、そのようなアフィン同変推定器の構築は統計学で広く研究されている。
我々は,最近の研究課題である重み付き汚職と敵対的汚職の2つのモデルを用いて,これらの推定値を定量的に評価した。
affine-equivariance が回復誤差の厳格な低下を招き、両者の設定で$\sqrt{d}$ の因子で定量的に劣化することを示す下限を定式化する。
タキー中央値 (Tukey '75) やスタヘル・ドノホ推定器 (Stahel '81) やドノホ推定器 (Donoho '82) のような古典的推定器は、アフィン同変推定器のクラスにおいても定量的に最適であるか、あるいは量的保証が欠如していることが分かる。
一方で、強い量的保証を持つ最近の推定値はアフィン同値ではなく、それを達成するために追加の分布的仮定を必要とする。
我々は、下界にほぼ一致する新しいアフィン同変推定器を構築することでこれを改善した。
我々の推定子は、独立性のある高次元の中央値の概念に基づいている。
特に,この結果は,アフィン同値な推定者に対して等方性分布のユークリッドノルムの評価に対応するマハラノビスノルムで評価される任意の推定子に対してより広く適用できる。
関連論文リスト
- A Tale of Sampling and Estimation in Discounted Reinforcement Learning [50.43256303670011]
割引平均推定問題に対して最小値の最小値を求める。
マルコフ過程の割引されたカーネルから直接サンプリングすることで平均を推定すると、説得力のある統計的性質が得られることを示す。
論文 参考訳(メタデータ) (2023-04-11T09:13:17Z) - Divergence Frontiers for Generative Models: Sample Complexity,
Quantization Level, and Frontier Integral [58.434753643798224]
多様性フロンティアは生成モデルの評価フレームワークとして提案されている。
分岐フロンティアのプラグイン推定器のサンプル複雑性の非漸近的境界を確立する。
また,スムーズな分布推定器の統計的性能を調べることにより,分散フロンティアの枠組みも強化する。
論文 参考訳(メタデータ) (2021-06-15T06:26:25Z) - Robust W-GAN-Based Estimation Under Wasserstein Contamination [8.87135311567798]
Wasserstein汚染モデルに基づくいくつかの推定問題について検討し,生成ネットワーク(GAN)を動機とする計算可能なトラクタブル推定器を提案する。
具体的には,逆位置推定,共分散行列推定,線形回帰のためのwasserstein ganに基づく推定器の特性を分析する。
提案する推定器は,多くのシナリオにおいて最小限最適である。
論文 参考訳(メタデータ) (2021-01-20T05:15:16Z) - Nonparametric Score Estimators [49.42469547970041]
未知分布によって生成されたサンプルの集合からスコアを推定することは確率モデルの推論と学習における基本的なタスクである。
正規化非パラメトリック回帰の枠組みの下で、これらの推定器の統一的なビューを提供する。
カールフリーカーネルと高速収束による計算効果を享受する反復正規化に基づくスコア推定器を提案する。
論文 参考訳(メタデータ) (2020-05-20T15:01:03Z) - Nonparametric Estimation of the Fisher Information and Its Applications [82.00720226775964]
本稿では,大きさn$のランダムサンプルからフィッシャー情報の位置推定の問題について考察する。
Bhattacharyaにより提案された推定器を再検討し、収束率の向上を導出する。
クリッピング推定器と呼ばれる新しい推定器を提案する。
論文 参考訳(メタデータ) (2020-05-07T17:21:56Z) - Distributional robustness of K-class estimators and the PULSE [4.56877715768796]
古典的Kクラス推定器は、Kクラス推定器とアンカー回帰との接続を確立することにより、そのような最適性を満たすことを証明する。
データ駆動型シミュレーションKクラス推定器として効率的に計算できることを示す。
弱い楽器の設定を含むいくつかの設定があり、他の推定値よりも優れています。
論文 参考訳(メタデータ) (2020-05-07T09:39:07Z) - SUMO: Unbiased Estimation of Log Marginal Probability for Latent
Variable Models [80.22609163316459]
無限級数のランダム化トランケーションに基づく潜在変数モデルに対して、ログ境界確率の非バイアス推定器とその勾配を導入する。
推定器を用いてトレーニングしたモデルは、同じ平均計算コストに対して、標準的な重要度サンプリングに基づくアプローチよりも優れたテストセット確率を与えることを示す。
論文 参考訳(メタデータ) (2020-04-01T11:49:30Z) - Estimating Gradients for Discrete Random Variables by Sampling without
Replacement [93.09326095997336]
我々は、置換のないサンプリングに基づいて、離散確率変数に対する期待値の偏りのない推定器を導出する。
推定器は3つの異なる推定器のラオ・ブラックウェル化として導出可能であることを示す。
論文 参考訳(メタデータ) (2020-02-14T14:15:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。