論文の概要: Sharp Deviations Bounds for Dirichlet Weighted Sums with Application to
analysis of Bayesian algorithms
- arxiv url: http://arxiv.org/abs/2304.03056v1
- Date: Thu, 6 Apr 2023 13:15:51 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-07 14:22:15.874934
- Title: Sharp Deviations Bounds for Dirichlet Weighted Sums with Application to
analysis of Bayesian algorithms
- Title（参考訳）: ディリクレ重み付き和のシャープ偏差境界とベイズアルゴリズムの解析への応用
- Authors: Denis Belomestny, Pierre Menard, Alexey Naumov, Daniil Tiapkin, Michal
Valko
- Abstract要約: ディリクレ確率変数の重み付け和に対する鋭い非漸近偏差境界を導出する。
これらの境界は、重み付きディリクレ和の密度の新たな積分表現に基づいている。
- 参考スコア（独自算出の注目度）: 30.310960863405267
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In this work, we derive sharp non-asymptotic deviation bounds for weighted
sums of Dirichlet random variables. These bounds are based on a novel integral
representation of the density of a weighted Dirichlet sum. This representation
allows us to obtain a Gaussian-like approximation for the sum distribution
using geometry and complex analysis methods. Our results generalize similar
bounds for the Beta distribution obtained in the seminal paper Alfers and
Dinges [1984]. Additionally, our results can be considered a sharp
non-asymptotic version of the inverse of Sanov's theorem studied by Ganesh and
O'Connell [1999] in the Bayesian setting. Based on these results, we derive new
deviation bounds for the Dirichlet process posterior means with application to
Bayesian bootstrap. Finally, we apply our estimates to the analysis of the
Multinomial Thompson Sampling (TS) algorithm in multi-armed bandits and
significantly sharpen the existing regret bounds by making them independent of
the size of the arms distribution support.
- Abstract（参考訳）: 本研究では,ディリクレ確率変数の重み付き和に対するシャープな非漸近偏差境界を求める。
これらの境界は、重み付きディリクレ和の密度の新たな積分表現に基づいている。
この表現により、幾何法と複素解析法を用いて和分布のガウス的近似が得られる。
本研究は,alfers and dinges [1984] で得られたベータ分布の類似境界を一般化する。
さらに、この結果はガネシュとオコネルがベイズ的設定で研究したサノフの定理の逆数の鋭く非漸近的なバージョンと考えることができる。
これらの結果から,ディリクレ過程の後方平均に対する新たな偏差境界をベイズブートストラップに適用して導出する。
最後に,多腕バンディットにおけるマルチノマルトンプソンサンプリング(ts)アルゴリズムの解析に推定を適用し,アーム分布支援の大きさに依存しないようにすることで,既存の後悔の限界を大幅に向上させる。
関連論文リスト
- Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳（メタデータ） (2024-01-29T02:08:40Z) - Intrinsic Bayesian Cramér-Rao Bound with an Application to Covariance Matrix Estimation [49.67011673289242]
本稿では, 推定パラメータが滑らかな多様体内にある推定問題に対して, 新たな性能境界を提案する。
これはパラメータ多様体の幾何学と推定誤差測度の本質的な概念を誘導する。
論文 参考訳（メタデータ） (2023-11-08T15:17:13Z) - A General Recipe for the Analysis of Randomized Multi-Armed Bandit Algorithms [14.33758865948252]
我々は2つの有名なバンディットアルゴリズム、Minimum Empirical Divergence (MED)とThompson Sampling (TS)を再検討する。
MEDがこれらのモデルすべてに最適であることを示すとともに、最適性がすでに知られているTSアルゴリズムの簡単な後悔解析も提供する。
論文 参考訳（メタデータ） (2023-03-10T16:43:48Z) - Mean-Square Analysis of Discretized It\^o Diffusions for Heavy-tailed
Sampling [17.415391025051434]
重み付きポインカーの不等式に関連する伊藤拡散の自然クラスを離散化することにより、重み付き分布のクラスからのサンプリングの複雑さを分析する。
平均二乗解析に基づいて、ワッサーシュタイン2計量のターゲット分布に近い分布が$epsilon$のサンプルを得るための反復複雑性を確立する。
論文 参考訳（メタデータ） (2023-03-01T15:16:03Z) - Robust Estimation for Nonparametric Families via Generative Adversarial
Networks [92.64483100338724]
我々は,高次元ロバストな統計問題を解くためにGAN(Generative Adversarial Networks)を設計するためのフレームワークを提供する。
我々の研究は、これらをロバスト平均推定、第二モーメント推定、ロバスト線形回帰に拡張する。
技術面では、提案したGAN損失は、スムーズで一般化されたコルモゴロフ-スミルノフ距離と見なすことができる。
論文 参考訳（メタデータ） (2022-02-02T20:11:33Z) - Estimating Gaussian Copulas with Missing Data [0.0]
半パラメトリックなモデリングにより、境界面上の事前仮定を回避する方法を示す。
このアルゴリズムによって得られた共同分布は、既存の方法よりも基礎的な分布にかなり近い。
論文 参考訳（メタデータ） (2022-01-14T17:20:44Z) - Pathwise Conditioning of Gaussian Processes [72.61885354624604]
ガウス過程後部をシミュレーションするための従来のアプローチでは、有限個の入力位置のプロセス値の限界分布からサンプルを抽出する。
この分布中心の特徴づけは、所望のランダムベクトルのサイズで3次スケールする生成戦略をもたらす。
条件付けのこのパスワイズ解釈が、ガウス過程の後部を効率的にサンプリングするのに役立てる近似の一般族をいかに生み出すかを示す。
論文 参考訳（メタデータ） (2020-11-08T17:09:37Z) - Mean-Field Approximation to Gaussian-Softmax Integral with Application
to Uncertainty Estimation [23.38076756988258]
ディープニューラルネットワークにおける不確実性を定量化するための,新しい単一モデルに基づくアプローチを提案する。
平均場近似式を用いて解析的に難解な積分を計算する。
実験的に,提案手法は最先端の手法と比較して競合的に機能する。
論文 参考訳（メタデータ） (2020-06-13T07:32:38Z) - Efficiently Sampling Functions from Gaussian Process Posteriors [76.94808614373609]
高速後部サンプリングのための簡易かつ汎用的なアプローチを提案する。
分離されたサンプルパスがガウス過程の後部を通常のコストのごく一部で正確に表現する方法を実証する。
論文 参考訳（メタデータ） (2020-02-21T14:03:16Z) - Bayesian Deep Learning and a Probabilistic Perspective of Generalization [56.69671152009899]
ディープアンサンブルはベイズ辺化を近似する有効なメカニズムであることを示す。
また,アトラクションの流域内での辺縁化により,予測分布をさらに改善する関連手法を提案する。
論文 参考訳（メタデータ） (2020-02-20T15:13:27Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。