論文の概要: Finite-Sample Symmetric Mean Estimation with Fisher Information Rate
- arxiv url: http://arxiv.org/abs/2306.16573v1
- Date: Wed, 28 Jun 2023 21:31:46 GMT
- ステータス: 処理完了
- システム内更新日: 2023-06-30 15:26:43.317666
- Title: Finite-Sample Symmetric Mean Estimation with Fisher Information Rate
- Title（参考訳）: fisher information rateを用いた有限サンプル対称平均推定
- Authors: Shivam Gupta, Jasper C.H. Lee, Eric Price
- Abstract要約: 未知の分散-$sigma2$分布の意味は、分散$fracsigma2n$とほぼ対応する準ガウス速度を持つ$n$サンプルから推定できる。
f$が翻訳で知られている場合、$frac1nmathcal I$に改善することができる。
- 参考スコア（独自算出の注目度）: 15.802475232604667
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: The mean of an unknown variance-$\sigma^2$ distribution $f$ can be estimated
from $n$ samples with variance $\frac{\sigma^2}{n}$ and nearly corresponding
subgaussian rate. When $f$ is known up to translation, this can be improved
asymptotically to $\frac{1}{n\mathcal I}$, where $\mathcal I$ is the Fisher
information of the distribution. Such an improvement is not possible for
general unknown $f$, but [Stone, 1975] showed that this asymptotic convergence
$\textit{is}$ possible if $f$ is $\textit{symmetric}$ about its mean. Stone's
bound is asymptotic, however: the $n$ required for convergence depends in an
unspecified way on the distribution $f$ and failure probability $\delta$. In
this paper we give finite-sample guarantees for symmetric mean estimation in
terms of Fisher information. For every $f, n, \delta$ with $n > \log
\frac{1}{\delta}$, we get convergence close to a subgaussian with variance
$\frac{1}{n \mathcal I_r}$, where $\mathcal I_r$ is the $r$-$\textit{smoothed}$
Fisher information with smoothing radius $r$ that decays polynomially in $n$.
Such a bound essentially matches the finite-sample guarantees in the known-$f$
setting.
- Abstract（参考訳）: 未知の分散の平均$$\sigma^2$ distribution $f$は、分散$\frac{\sigma^2}{n}$とほぼ対応する部分ガウス率を持つ$n$サンプルから推定することができる。
f$ が翻訳まで知られている場合、これは漸近的に $\frac{1}{n\mathcal i}$ に改善され、ここで $\mathcal i$ は分布のフィッシャー情報である。
そのような改善は、一般の未知の$f$では不可能であるが、[Stone, 1975] は、この漸近収束$\textit{is}$が、その平均について$f$が$\textit{symmetric}$であれば可能であることを示した。
収束に必要な$n$ は、分配 $f$ と失敗確率 $\delta$ に依存する。
本稿では、フィッシャー情報の観点から対称平均推定のための有限サンプル保証を与える。
すべての$f, n, \delta$ with $n > \log \frac{1}{\delta}$ に対して、分散$\frac{1}{n \mathcal I_r}$ に近い収束を得る。
そのような境界は、既知の$f$設定における有限サンプル保証と本質的に一致する。
関連論文リスト
- Dimension-free Private Mean Estimation for Anisotropic Distributions [55.86374912608193]
以前の$mathRd上の分布に関する民間推定者は、次元性の呪いに苦しむ。
本稿では,サンプルの複雑さが次元依存性を改善したアルゴリズムを提案する。
論文 参考訳（メタデータ） (2024-11-01T17:59:53Z) - On the $O(\frac{\sqrt{d}}{T^{1/4}})$ Convergence Rate of RMSProp and Its Momentum Extension Measured by $\ell_1$ Norm [59.65871549878937]
本稿では、RMSPropとその運動量拡張を考察し、$frac1Tsum_k=1Tの収束速度を確立する。
我々の収束率は、次元$d$を除くすべての係数に関して下界と一致する。
収束率は$frac1Tsum_k=1Tと類似していると考えられる。
論文 参考訳（メタデータ） (2024-02-01T07:21:32Z) - Estimation and Inference in Distributional Reinforcement Learning [28.253677740976197]
サイズ$widetilde Oleft(frac|mathcalS||mathcalA|epsilon2 (1-gamma)4right)$ suffices to ensure the Kolmogorov metric and total variation metric between $hatetapi$ and $etapi$ is below $epsilon$ with high probability。
以上の結果から,多種多様な統計的汎関数の統計的推測への統一的アプローチがもたらされた。
論文 参考訳（メタデータ） (2023-09-29T14:14:53Z) - High-dimensional Location Estimation via Norm Concentration for Subgamma
Vectors [15.802475232604667]
位置推定では、既知の分布から$n$のサンプルが与えられます。
漸近的に、最大推定は誤差$mathcal N(0, frac1nmathcal I)$のクラム・ラオ境界を達成する。
我々は、Emphsmoothed estimator を用いて、$mathcal I_r$, the Fisher information of the $r$-smoothed の有限$n$の誤差を束縛する理論を構築した。
論文 参考訳（メタデータ） (2023-02-05T22:17:04Z) - A spectral least-squares-type method for heavy-tailed corrupted
regression with unknown covariance \& heterogeneous noise [2.019622939313173]
重み付き最小二乗線形回帰は、少なくとも$epsilon n$ arbitrary outliersの$n$のラベル特徴サンプルを破損させたと仮定して再検討する。
本稿では,$(Sigma,Xi) や $Xi$ の演算ノルムに関する知識を前提に,電力法に基づくほぼ最適に計算可能な推定器を提案する。
論文 参考訳（メタデータ） (2022-09-06T23:37:31Z) - Finite-Sample Maximum Likelihood Estimation of Location [16.44999338864628]
固定$f$ の場合、最大類似度推定 (MLE) は infty$ に対して$n の極限で最適であることが知られている。
任意の$f$と$n$について、滑らかな$f$のフィッシャー情報に基づいて同様の理論を復元できることを示し、そこでは滑らかな半径が$n$で崩壊する。
論文 参考訳（メタデータ） (2022-06-06T04:33:41Z) - Random matrices in service of ML footprint: ternary random features with
no performance loss [55.30329197651178]
我々は、$bf K$ の固有スペクトルが$bf w$ の i.d. 成分の分布とは独立であることを示す。
3次ランダム特徴(TRF)と呼ばれる新しいランダム手法を提案する。
提案したランダムな特徴の計算には乗算が不要であり、古典的なランダムな特徴に比べてストレージに$b$のコストがかかる。
論文 参考訳（メタデータ） (2021-10-05T09:33:49Z) - From Smooth Wasserstein Distance to Dual Sobolev Norm: Empirical
Approximation and Statistical Applications [18.618590805279187]
我々は$mathsfW_p(sigma)$が$pth次スムーズな双対ソボレフ$mathsfd_p(sigma)$で制御されていることを示す。
我々は、すべての次元において$sqrtnmathsfd_p(sigma)(hatmu_n,mu)$の極限分布を導出する。
論文 参考訳（メタデータ） (2021-01-11T17:23:24Z) - Sparse sketches with small inversion bias [79.77110958547695]
逆バイアスは、逆の共分散に依存する量の推定を平均化するときに生じる。
本研究では、確率行列に対する$(epsilon,delta)$-unbiased estimatorという概念に基づいて、逆バイアスを解析するためのフレームワークを開発する。
スケッチ行列 $S$ が密度が高く、すなわちサブガウスのエントリを持つとき、$(epsilon,delta)$-unbiased for $(Atop A)-1$ は $m=O(d+sqrt d/ のスケッチを持つ。
論文 参考訳（メタデータ） (2020-11-21T01:33:15Z) - Agnostic Learning of a Single Neuron with Gradient Descent [92.7662890047311]
期待される正方形損失から、最も適合した単一ニューロンを学習することの問題点を考察する。
ReLUアクティベーションでは、我々の人口リスク保証は$O(mathsfOPT1/2)+epsilon$である。
ReLUアクティベーションでは、我々の人口リスク保証は$O(mathsfOPT1/2)+epsilon$である。
論文 参考訳（メタデータ） (2020-05-29T07:20:35Z) - Curse of Dimensionality on Randomized Smoothing for Certifiable
Robustness [151.67113334248464]
我々は、他の攻撃モデルに対してスムースな手法を拡張することは困難であることを示す。
我々はCIFARに関する実験結果を示し,その理論を検証した。
論文 参考訳（メタデータ） (2020-02-08T22:02:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。