論文の概要: Analysis of KNN Density Estimation
- arxiv url: http://arxiv.org/abs/2010.00438v1
- Date: Wed, 30 Sep 2020 03:33:17 GMT
- ステータス: 処理完了
- システム内更新日: 2022-10-12 22:52:07.340552
- Title: Analysis of KNN Density Estimation
- Title(参考訳): KNN密度推定の解析
- Authors: Puning Zhao, Lifeng Lai
- Abstract要約: kNN密度推定は、サポートセットが知られている場合、$ell_infty$と$ell_infty$の条件の両方で最小限最適である。
$ell_infty$エラーはミニマックス下限に到達しないが、カーネル密度推定よりは優れている。
- 参考スコア(独自算出の注目度): 56.29748742084386
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We analyze the $\ell_1$ and $\ell_\infty$ convergence rates of k nearest
neighbor density estimation method. Our analysis includes two different cases
depending on whether the support set is bounded or not. In the first case, the
probability density function has a bounded support and is bounded away from
zero. We show that kNN density estimation is minimax optimal under both
$\ell_1$ and $\ell_\infty$ criteria, if the support set is known. If the
support set is unknown, then the convergence rate of $\ell_1$ error is not
affected, while $\ell_\infty$ error does not converge. In the second case, the
probability density function can approach zero and is smooth everywhere.
Moreover, the Hessian is assumed to decay with the density values. For this
case, our result shows that the $\ell_\infty$ error of kNN density estimation
is nearly minimax optimal. The $\ell_1$ error does not reach the minimax lower
bound, but is better than kernel density estimation.
- Abstract(参考訳): k近傍密度推定法の$\ell_1$および$\ell_\infty$収束率を分析する。
我々の分析は、サポートセットが有界かどうかによって2つの異なるケースを含む。
第一のケースでは、確率密度関数は有界な支持を持ち、ゼロから離れて有界である。
kNN密度推定は、サポートセットが知られている場合、$\ell_1$と$\ell_\infty$の条件の両方で最小値最適であることを示す。
サポートセットが未知であれば、$\ell_1$エラーの収束率は影響を受けないが、$\ell_\infty$エラーは収束しない。
第二の場合、確率密度関数はゼロに近づき、至るところで滑らかである。
さらに、ヘシアンは密度値とともに崩壊すると仮定される。
この場合、kNN密度推定の$\ell_\infty$誤差はほぼ極小であることを示す。
$\ell_1$エラーは最小限の上限に達しないが、カーネル密度推定よりも優れている。
関連論文リスト
- Statistical-Computational Trade-offs for Density Estimation [60.81548752871115]
幅広い種類のデータ構造に対して、それらの境界は著しく改善されないことを示す。
これは密度推定のための新しい統計計算トレードオフである。
論文 参考訳(メタデータ) (2024-10-30T15:03:33Z) - Kernel Density Estimators in Large Dimensions [9.299356601085586]
カーネルによる密度$hatrho_hmathcal D(x)=frac1n hdsum_i=1n Kleft(fracx-y_ihright)$の推定は帯域幅$h$に依存する。
本稿では,Kullback-Leibler分散に基づく帯域幅の最適しきい値が,本論文で同定された新しい統計体系に含まれることを示す。
論文 参考訳(メタデータ) (2024-08-11T15:56:44Z) - Further Understanding of a Local Gaussian Process Approximation: Characterising Convergence in the Finite Regime [1.3518297878940662]
非常に正確かつ大規模に拡張可能なGPnn回帰モデルに対するカーネル関数の一般的な選択は、データセットサイズ$n$の増加に伴って徐々に振る舞いに収束することを示す。
同様の境界はモデルの不特定の下で見出され、MSEと重要な校正計量の総合的な収束率を与えるために組み合わせられる。
論文 参考訳(メタデータ) (2024-04-09T10:47:01Z) - Breaking the Heavy-Tailed Noise Barrier in Stochastic Optimization Problems [56.86067111855056]
構造密度の重み付き雑音によるクリップ最適化問題を考察する。
勾配が有限の順序モーメントを持つとき、$mathcalO(K-(alpha - 1)/alpha)$よりも高速な収束率が得られることを示す。
得られた推定値が無視可能なバイアスと制御可能な分散を持つことを示す。
論文 参考訳(メタデータ) (2023-11-07T17:39:17Z) - Data Structures for Density Estimation [66.36971978162461]
p$のサブリニア数($n$)が与えられた場合、主な結果は$k$のサブリニアで$v_i$を識別する最初のデータ構造になります。
また、Acharyaなどのアルゴリズムの改良版も提供します。
論文 参考訳(メタデータ) (2023-06-20T06:13:56Z) - High Probability Bounds for a Class of Nonconvex Algorithms with AdaGrad
Stepsize [55.0090961425708]
本研究では,AdaGradのスムーズな非確率問題に対する簡易な高確率解析法を提案する。
我々はモジュラーな方法で解析を行い、決定論的設定において相補的な$mathcal O (1 / TT)$収束率を得る。
我々の知る限りでは、これは真に適応的なスキームを持つAdaGradにとって初めての高い確率である。
論文 参考訳(メタデータ) (2022-04-06T13:50:33Z) - Random quantum circuits transform local noise into global white noise [118.18170052022323]
低忠実度状態におけるノイズランダム量子回路の測定結果の分布について検討する。
十分に弱くユニタリな局所雑音に対して、一般的なノイズ回路インスタンスの出力分布$p_textnoisy$間の相関(線形クロスエントロピーベンチマークで測定)は指数関数的に減少する。
ノイズが不整合であれば、出力分布は、正確に同じ速度で均一分布の$p_textunif$に近づく。
論文 参考訳(メタデータ) (2021-11-29T19:26:28Z) - Localization in 1D non-parametric latent space models from pairwise
affinities [6.982738885923206]
対の親和性から一次元トーラスにおける潜伏位置を推定する問題を考察する。
高確率でsqrtlog(n)/n$の順序の最大誤差で全ての潜伏位置を確実にローカライズする推定手順を導入する。
論文 参考訳(メタデータ) (2021-08-06T13:05:30Z) - Rates of convergence for density estimation with generative adversarial
networks [19.71040653379663]
我々は、基礎となる密度$mathsfp*$とGAN推定値の間のJensen-Shannon (JS) 分岐に対するオラクルの不等式を証明した。
GANの推定値と$mathsfp*$のJS偏差が$(logn/n)2beta/ (2beta + d)$の速さで崩壊することを示す。
論文 参考訳(メタデータ) (2021-01-30T09:59:14Z) - Convergence of Graph Laplacian with kNN Self-tuned Kernels [14.645468999921961]
自己チューニングされたカーネルは、各点に$sigma_i$ を $k$-nearest neighbor (kNN) 距離で適応的に設定する。
本稿では、グラフラプラシアン作用素$L_N$を、kNN自己チューニングカーネルの新しい族に対する多様体(重み付き)ラプラシアンに収束することを証明する。
論文 参考訳(メタデータ) (2020-11-03T04:55:33Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。