Fugu-MT 論文翻訳(概要): Concentration Bounds for Discrete Distribution Estimation in KL Divergence

論文の概要: Concentration Bounds for Discrete Distribution Estimation in KL Divergence

arxiv url: http://arxiv.org/abs/2302.06869v1
Date: Tue, 14 Feb 2023 07:17:19 GMT
ステータス: 処理完了
システム内更新日: 2023-02-15 16:11:16.639622
Title: Concentration Bounds for Discrete Distribution Estimation in KL Divergence
Title（参考訳）: KLディバージェンスにおける離散分布推定のための濃度境界
Authors: Cl\'ement L. Canonne and Ziteng Sun and Ananda Theertha Suresh
Abstract要約: 平均スケールからの偏差が$sqrtk/n$とすると、$n ge k$は$k/n$の最良の事前結果を改善する。また、一致した下界を確立し、この境界が多対数因子に密接であることを示す。
参考スコア（独自算出の注目度）: 21.640337031842368
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: We study the problem of discrete distribution estimation in KL divergence and provide concentration bounds for the Laplace estimator. We show that the deviation from mean scales as $\sqrt{k}/n$ when $n \ge k$, improving upon the best prior result of $k/n$. We also establish a matching lower bound that shows that our bounds are tight up to polylogarithmic factors.
Abstract（参考訳）: 我々はKL分散における離散分布推定の問題について検討し、ラプラス推定器に濃度境界を与える。平均スケールからの偏差が$\sqrt{k}/n$とすると、$n \ge k$は$k/n$の最良の事前結果を改善する。我々はまた、我々の境界が多対数因子に密接であることを示す一致する下限を確立する。

関連論文リスト

Risk Bounds for Mixture Density Estimation on Compact Domains via the $h$-Lifted Kullback--Leibler Divergence [2.8074364079901017]
標準KL分散の一般化として、$h$-lifted Kullback--Leibler(KL)分散を導入する。我々は、対応する最大$h$-lifted chance 推定器の計算手順を開発する。
論文参考訳（メタデータ） (2024-04-19T02:31:34Z)
Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文参考訳（メタデータ） (2023-06-27T08:15:28Z)
Convergence and concentration properties of constant step-size SGD through Markov chains [0.0]
定常段差勾配勾配(SGD)を用いた滑らかで強凸な目標の最適化について検討する。緩やかに制御された分散を伴う不偏勾配推定に対して、反復は全変動距離の不変分布に収束することを示す。全ての結果は無症状であり、その結果はいくつかのアプリケーションを通して議論されている。
論文参考訳（メタデータ） (2023-06-20T12:36:28Z)
Convergence of Random Reshuffling Under The Kurdyka-{\L}ojasiewicz Inequality [3.960041987749073]
我々はクルディカ・ロジャシエヴィチ(KL)の不等式に基づくステップサイズを小さくした非輝化RRの収束解析を行う。我々は、KL指数と好適に選択された減少ステップサイズに応じて、対応する収束率を導出する。また、近位点法に対して同様の強い極限点収束結果を確立する。
論文参考訳（メタデータ） (2021-10-10T23:20:04Z)
Robust Learning of Optimal Auctions [84.13356290199603]
本研究では、入札者の評価値のサンプルを逆向きに破損させたり、逆向きに歪んだ分布から引き出すことができる場合に、サンプルから収益-最適マルチバイダオークションを学習する問題について検討する。我々は,コルモゴロフ-スミルノフ距離における元の分布に対して$alpha$-closeの「全ての真の分布」に対して,収入がほぼ同時に最適であるメカニズムを学習できる新しいアルゴリズムを提案する。
論文参考訳（メタデータ） (2021-07-13T17:37:21Z)
KALE Flow: A Relaxed KL Gradient Flow for Probabilities with Disjoint Support [27.165565512841656]
移動音源と固定目標分布との間のクルバック・リーブラー分岐に対する緩和近似の勾配流について検討した。この近似は KALE (KL 近似下界推定器) と呼ばれ、関数の制限クラス上で KL を定義するフェンシェル双対問題の正規化版を解く。
論文参考訳（メタデータ） (2021-06-16T16:37:43Z)
Linear Optimal Transport Embedding: Provable Wasserstein classification for certain rigid transformations and perturbations [79.23797234241471]
分布の区別は多くの科学分野において重要な問題である。線形最適輸送(LOT)は分布の空間を$L2$-スペースに埋め込む。複数の分布分類問題に対するLOTの利点を実証する。
論文参考訳（メタデータ） (2020-08-20T19:09:33Z)
Relative Deviation Margin Bounds [55.22251993239944]
我々はRademacher複雑性の観点から、分布依存と一般家庭に有効な2種類の学習境界を与える。有限モーメントの仮定の下で、非有界な損失関数に対する分布依存的一般化境界を導出する。
論文参考訳（メタデータ） (2020-06-26T12:37:17Z)
On Linear Stochastic Approximation: Fine-grained Polyak-Ruppert and Non-Asymptotic Concentration [115.1954841020189]
The inequality and non-asymptotic properties of approximation procedure with Polyak-Ruppert averaging。一定のステップサイズと無限大となる反復数を持つ平均的反復数に対する中心極限定理(CLT)を証明する。
論文参考訳（メタデータ） (2020-04-09T17:54:18Z)
Minimax Optimal Estimation of KL Divergence for Continuous Distributions [56.29748742084386]
Kullback-Leibler の同一および独立に分布するサンプルからの発散は、様々な領域において重要な問題である。単純で効果的な推定器の1つは、これらのサンプル間の近辺 k に基づいている。
論文参考訳（メタデータ） (2020-02-26T16:37:37Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。