論文の概要: High-dimensional Location Estimation via Norm Concentration for Subgamma
Vectors
- arxiv url: http://arxiv.org/abs/2302.02497v1
- Date: Sun, 5 Feb 2023 22:17:04 GMT
- ステータス: 処理完了
- システム内更新日: 2023-02-07 17:57:50.771371
- Title: High-dimensional Location Estimation via Norm Concentration for Subgamma
Vectors
- Title（参考訳）: サブガンマベクトルのノルム濃度による高次元位置推定
- Authors: Shivam Gupta, Jasper C.H. Lee, Eric Price
- Abstract要約: 位置推定では、既知の分布から$n$のサンプルが与えられます。
漸近的に、最大推定は誤差$mathcal N(0, frac1nmathcal I)$のクラム・ラオ境界を達成する。
我々は、Emphsmoothed estimator を用いて、$mathcal I_r$, the Fisher information of the $r$-smoothed の有限$n$の誤差を束縛する理論を構築した。
- 参考スコア（独自算出の注目度）: 15.802475232604667
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In location estimation, we are given $n$ samples from a known distribution
$f$ shifted by an unknown translation $\lambda$, and want to estimate $\lambda$
as precisely as possible. Asymptotically, the maximum likelihood estimate
achieves the Cram\'er-Rao bound of error $\mathcal N(0, \frac{1}{n\mathcal
I})$, where $\mathcal I$ is the Fisher information of $f$. However, the $n$
required for convergence depends on $f$, and may be arbitrarily large. We build
on the theory using \emph{smoothed} estimators to bound the error for finite
$n$ in terms of $\mathcal I_r$, the Fisher information of the $r$-smoothed
distribution. As $n \to \infty$, $r \to 0$ at an explicit rate and this
converges to the Cram\'er-Rao bound. We (1) improve the prior work for
1-dimensional $f$ to converge for constant failure probability in addition to
high probability, and (2) extend the theory to high-dimensional distributions.
In the process, we prove a new bound on the norm of a high-dimensional random
variable whose 1-dimensional projections are subgamma, which may be of
independent interest.
- Abstract（参考訳）: 位置推定では、既知のディストリビューションの$f$から$n$のサンプルを、未知の翻訳である$\lambda$で取得し、可能な限り正確に$\lambda$を見積もります。
漸近的に、最大推定値は、誤差 $\mathcal N(0, \frac{1}{n\mathcal I})$ の Cram\'er-Rao 境界を達成し、$\mathcal I$ は$f$ のフィッシャー情報である。
しかし、収束に必要な$n$は$f$に依存し、任意に大きい可能性がある。
我々は、$\mathcal I_r$, the Fisher information of the $r$-smoothed distribution で有限$n$の誤差を束縛するために \emph{smoothed} 推定器を用いて理論を構築する。
n \to \infty$, $r \to 0$ は明示的なレートで成立し、これは cram\'er-rao 境界に収束する。
1) 1 次元 $f$ の先行作業を高い確率に加えて一定故障確率で収束させるように改善し,(2) 理論を高次元分布に拡張する。
この過程において、1次元の射影がサブガンマであり、独立した興味を持つ高次元確率変数のノルム上の新しい境界を証明する。
関連論文リスト
- Optimal Sketching for Residual Error Estimation for Matrix and Vector Norms [50.15964512954274]
線形スケッチを用いた行列とベクトルノルムの残差誤差推定問題について検討する。
これは、前作とほぼ同じスケッチサイズと精度で、経験的にかなり有利であることを示す。
また、スパースリカバリ問題に対して$Omega(k2/pn1-2/p)$低いバウンダリを示し、これは$mathrmpoly(log n)$ factorまで厳密である。
論文 参考訳（メタデータ） (2024-08-16T02:33:07Z) - Revisiting Step-Size Assumptions in Stochastic Approximation [1.3654846342364308]
この論文は、一般的なマルコフ的な設定でステップサイズの選択を再考する。
大きな結論は、$rho =0$ または $rho1/2$ の選択は、選択した設定でのみ正当化されるということである。
論文 参考訳（メタデータ） (2024-05-28T05:11:05Z) - $L^1$ Estimation: On the Optimality of Linear Estimators [64.76492306585168]
この研究は、条件中央値の線型性を誘導する$X$上の唯一の先行分布がガウス分布であることを示している。
特に、条件分布 $P_X|Y=y$ がすべての$y$に対して対称であるなら、$X$ はガウス分布に従う必要がある。
論文 参考訳（メタデータ） (2023-09-17T01:45:13Z) - Finite-Sample Symmetric Mean Estimation with Fisher Information Rate [15.802475232604667]
未知の分散-$sigma2$分布の意味は、分散$fracsigma2n$とほぼ対応する準ガウス速度を持つ$n$サンプルから推定できる。
f$が翻訳で知られている場合、$frac1nmathcal I$に改善することができる。
論文 参考訳（メタデータ） (2023-06-28T21:31:46Z) - Finite-Sample Maximum Likelihood Estimation of Location [16.44999338864628]
固定$f$ の場合、最大類似度推定 (MLE) は infty$ に対して$n の極限で最適であることが知られている。
任意の$f$と$n$について、滑らかな$f$のフィッシャー情報に基づいて同様の理論を復元できることを示し、そこでは滑らかな半径が$n$で崩壊する。
論文 参考訳（メタデータ） (2022-06-06T04:33:41Z) - Non-Parametric Estimation of Manifolds from Noisy Data [1.0152838128195467]
ノイズの多いサンプルの有限集合から$mathbbRD$の$d$次元部分多様体を推定する問題を検討する。
点推定では$n-frack2k + d$、接空間の推定では$n-frack-12k + d$の収束率を推定する。
論文 参考訳（メタデータ） (2021-05-11T02:29:33Z) - From Smooth Wasserstein Distance to Dual Sobolev Norm: Empirical
Approximation and Statistical Applications [18.618590805279187]
我々は$mathsfW_p(sigma)$が$pth次スムーズな双対ソボレフ$mathsfd_p(sigma)$で制御されていることを示す。
我々は、すべての次元において$sqrtnmathsfd_p(sigma)(hatmu_n,mu)$の極限分布を導出する。
論文 参考訳（メタデータ） (2021-01-11T17:23:24Z) - Optimal Mean Estimation without a Variance [103.26777953032537]
本研究では,データ生成分布の分散が存在しない環境での重み付き平均推定問題について検討する。
最小の信頼区間を$n,d,delta$の関数として得る推定器を設計する。
論文 参考訳（メタデータ） (2020-11-24T22:39:21Z) - Sparse sketches with small inversion bias [79.77110958547695]
逆バイアスは、逆の共分散に依存する量の推定を平均化するときに生じる。
本研究では、確率行列に対する$(epsilon,delta)$-unbiased estimatorという概念に基づいて、逆バイアスを解析するためのフレームワークを開発する。
スケッチ行列 $S$ が密度が高く、すなわちサブガウスのエントリを持つとき、$(epsilon,delta)$-unbiased for $(Atop A)-1$ は $m=O(d+sqrt d/ のスケッチを持つ。
論文 参考訳（メタデータ） (2020-11-21T01:33:15Z) - Near-Optimal SQ Lower Bounds for Agnostically Learning Halfspaces and
ReLUs under Gaussian Marginals [49.60752558064027]
ガウス境界の下では、半空間とReLUを不可知的に学習する基本的な問題について検討する。
我々の下限は、これらのタスクの現在の上限が本質的に最良のものであるという強い証拠を与える。
論文 参考訳（メタデータ） (2020-06-29T17:10:10Z) - Curse of Dimensionality on Randomized Smoothing for Certifiable
Robustness [151.67113334248464]
我々は、他の攻撃モデルに対してスムースな手法を拡張することは困難であることを示す。
我々はCIFARに関する実験結果を示し,その理論を検証した。
論文 参考訳（メタデータ） (2020-02-08T22:02:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。