論文の概要: Statistical Barriers to Affine-equivariant Estimation
- arxiv url: http://arxiv.org/abs/2310.10758v1
- Date: Mon, 16 Oct 2023 18:42:00 GMT
- ステータス: 処理完了
- システム内更新日: 2023-10-18 19:16:46.146675
- Title: Statistical Barriers to Affine-equivariant Estimation
- Title(参考訳): アフィン同変推定に対する統計的障壁
- Authors: Zihao Chen, Yeshwanth Cherapanamjeri
- Abstract要約: 本研究では,ロバスト平均推定のためのアフィン同変推定器の定量的性能について検討する。
古典的推定器は定量的に準最適であるか、あるいは量的保証が欠如していることが分かる。
我々は、下界にほぼ一致する新しいアフィン同変推定器を構築する。
- 参考スコア(独自算出の注目度): 10.077727846124633
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: We investigate the quantitative performance of affine-equivariant estimators
for robust mean estimation. As a natural stability requirement, the
construction of such affine-equivariant estimators has been extensively studied
in the statistics literature. We quantitatively evaluate these estimators under
two outlier models which have been the subject of much recent work: the
heavy-tailed and adversarial corruption settings. We establish lower bounds
which show that affine-equivariance induces a strict degradation in recovery
error with quantitative rates degrading by a factor of $\sqrt{d}$ in both
settings. We find that classical estimators such as the Tukey median (Tukey
'75) and Stahel-Donoho estimator (Stahel '81 and Donoho '82) are either
quantitatively sub-optimal even within the class of affine-equivariant
estimators or lack any quantitative guarantees. On the other hand, recent
estimators with strong quantitative guarantees are not affine-equivariant or
require additional distributional assumptions to achieve it. We remedy this by
constructing a new affine-equivariant estimator which nearly matches our lower
bound. Our estimator is based on a novel notion of a high-dimensional median
which may be of independent interest. Notably, our results are applicable more
broadly to any estimator whose performance is evaluated in the Mahalanobis norm
which, for affine-equivariant estimators, corresponds to an evaluation in
Euclidean norm on isotropic distributions.
- Abstract(参考訳): 我々は,ロバスト平均推定のためのアフィン同変推定器の定量的性能について検討した。
自然安定要件として、そのようなアフィン同変推定器の構築は統計学で広く研究されている。
我々は,最近の研究課題である重み付き汚職と敵対的汚職の2つのモデルを用いて,これらの推定値を定量的に評価した。
affine-equivariance が回復誤差の厳格な低下を招き、両者の設定で$\sqrt{d}$ の因子で定量的に劣化することを示す下限を定式化する。
タキー中央値 (Tukey '75) やスタヘル・ドノホ推定器 (Stahel '81) やドノホ推定器 (Donoho '82) のような古典的推定器は、アフィン同変推定器のクラスにおいても定量的に最適であるか、あるいは量的保証が欠如していることが分かる。
一方で、強い量的保証を持つ最近の推定値はアフィン同値ではなく、それを達成するために追加の分布的仮定を必要とする。
我々は、下界にほぼ一致する新しいアフィン同変推定器を構築することでこれを改善した。
我々の推定子は、独立性のある高次元の中央値の概念に基づいている。
特に,この結果は,アフィン同値な推定者に対して等方性分布のユークリッドノルムの評価に対応するマハラノビスノルムで評価される任意の推定子に対してより広く適用できる。
関連論文リスト
- Debiased Regression for Root-N-Consistent Conditional Mean Estimation [10.470114319701576]
本稿では,高次元および非パラメトリック回帰推定器を含む回帰推定器のデバイアス化手法を提案する。
理論解析により,提案した推定器は,緩やかな収束率条件下で$sqrtn$-consistencyと正規性を達成することを示した。
提案手法は,推定精度の向上や信頼区間の簡易化など,いくつかの利点を提供する。
論文 参考訳(メタデータ) (2024-11-18T17:25:06Z) - Semiparametric conformal prediction [79.6147286161434]
リスクに敏感なアプリケーションは、複数の、潜在的に相関したターゲット変数に対して、よく校正された予測セットを必要とする。
スコアをランダムなベクトルとして扱い、それらの連接関係構造を考慮した予測セットを構築することを目的とする。
実世界のレグレッション問題に対して,所望のカバレッジと競争効率について報告する。
論文 参考訳(メタデータ) (2024-11-04T14:29:02Z) - Multivariate root-n-consistent smoothing parameter free matching estimators and estimators of inverse density weighted expectations [51.000851088730684]
我々は、パラメトリックな$sqrt n $-rateで収束する、最も近い隣人の新しい修正とマッチング推定器を開発する。
我々は,非パラメトリック関数推定器は含まないこと,特に標本サイズ依存パラメータの平滑化には依存していないことを強調する。
論文 参考訳(メタデータ) (2024-07-11T13:28:34Z) - Robust W-GAN-Based Estimation Under Wasserstein Contamination [8.87135311567798]
Wasserstein汚染モデルに基づくいくつかの推定問題について検討し,生成ネットワーク(GAN)を動機とする計算可能なトラクタブル推定器を提案する。
具体的には,逆位置推定,共分散行列推定,線形回帰のためのwasserstein ganに基づく推定器の特性を分析する。
提案する推定器は,多くのシナリオにおいて最小限最適である。
論文 参考訳(メタデータ) (2021-01-20T05:15:16Z) - Nonparametric Score Estimators [49.42469547970041]
未知分布によって生成されたサンプルの集合からスコアを推定することは確率モデルの推論と学習における基本的なタスクである。
正規化非パラメトリック回帰の枠組みの下で、これらの推定器の統一的なビューを提供する。
カールフリーカーネルと高速収束による計算効果を享受する反復正規化に基づくスコア推定器を提案する。
論文 参考訳(メタデータ) (2020-05-20T15:01:03Z) - Nonparametric Estimation of the Fisher Information and Its Applications [82.00720226775964]
本稿では,大きさn$のランダムサンプルからフィッシャー情報の位置推定の問題について考察する。
Bhattacharyaにより提案された推定器を再検討し、収束率の向上を導出する。
クリッピング推定器と呼ばれる新しい推定器を提案する。
論文 参考訳(メタデータ) (2020-05-07T17:21:56Z) - Distributional robustness of K-class estimators and the PULSE [4.56877715768796]
古典的Kクラス推定器は、Kクラス推定器とアンカー回帰との接続を確立することにより、そのような最適性を満たすことを証明する。
データ駆動型シミュレーションKクラス推定器として効率的に計算できることを示す。
弱い楽器の設定を含むいくつかの設定があり、他の推定値よりも優れています。
論文 参考訳(メタデータ) (2020-05-07T09:39:07Z) - SUMO: Unbiased Estimation of Log Marginal Probability for Latent
Variable Models [80.22609163316459]
無限級数のランダム化トランケーションに基づく潜在変数モデルに対して、ログ境界確率の非バイアス推定器とその勾配を導入する。
推定器を用いてトレーニングしたモデルは、同じ平均計算コストに対して、標準的な重要度サンプリングに基づくアプローチよりも優れたテストセット確率を与えることを示す。
論文 参考訳(メタデータ) (2020-04-01T11:49:30Z) - Estimating Gradients for Discrete Random Variables by Sampling without
Replacement [93.09326095997336]
我々は、置換のないサンプリングに基づいて、離散確率変数に対する期待値の偏りのない推定器を導出する。
推定器は3つの異なる推定器のラオ・ブラックウェル化として導出可能であることを示す。
論文 参考訳(メタデータ) (2020-02-14T14:15:18Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。