論文の概要: Mean-Square Analysis of Discretized It\^o Diffusions for Heavy-tailed
Sampling
- arxiv url: http://arxiv.org/abs/2303.00570v1
- Date: Wed, 1 Mar 2023 15:16:03 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-03 17:12:56.866367
- Title: Mean-Square Analysis of Discretized It\^o Diffusions for Heavy-tailed
Sampling
- Title(参考訳): 重み付きサンプリングのための離散化it\^o拡散の平均二乗解析
- Authors: Ye He, Tyler Farghly, Krishnakumar Balasubramanian, Murat A. Erdogdu
- Abstract要約: 重み付きポインカーの不等式に関連する伊藤拡散の自然クラスを離散化することにより、重み付き分布のクラスからのサンプリングの複雑さを分析する。
平均二乗解析に基づいて、ワッサーシュタイン2計量のターゲット分布に近い分布が$epsilon$のサンプルを得るための反復複雑性を確立する。
- 参考スコア(独自算出の注目度): 17.415391025051434
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We analyze the complexity of sampling from a class of heavy-tailed
distributions by discretizing a natural class of It\^o diffusions associated
with weighted Poincar\'e inequalities. Based on a mean-square analysis, we
establish the iteration complexity for obtaining a sample whose distribution is
$\epsilon$ close to the target distribution in the Wasserstein-2 metric. In
this paper, our results take the mean-square analysis to its limits, i.e., we
invariably only require that the target density has finite variance, the
minimal requirement for a mean-square analysis. To obtain explicit estimates,
we compute upper bounds on certain moments associated with heavy-tailed targets
under various assumptions. We also provide similar iteration complexity results
for the case where only function evaluations of the unnormalized target density
are available by estimating the gradients using a Gaussian smoothing technique.
We provide illustrative examples based on the multivariate $t$-distribution.
- Abstract(参考訳): 重み付きポアンカルの不等式に関連する it\^o 拡散の自然クラスを判別することにより,重み付き分布のクラスからのサンプリングの複雑さを解析した。
平均二乗解析に基づいて、wasserstein-2 メトリックのターゲット分布に近い$\epsilon$ の分布を持つサンプルを得るための反復複雑性を確立する。
本稿では, 平均二乗解析をその限界, すなわち, 対象密度が有限分散であること, 平均二乗解析の最小要件を必然的に要求する。
明示的な推定を得るために、重尾目標に関連する特定のモーメント上の上限を様々な仮定の下で計算する。
また,正規化対象密度の関数評価のみがガウス平滑化法を用いて勾配を推定できる場合にも同様の反復複雑性結果を提供する。
多変量 $t$-distribution に基づいた例を示す。
関連論文リスト
- Sampling and estimation on manifolds using the Langevin diffusion [48.898189211250234]
離散化マルコフ過程に基づく$mu_phi $の線形汎函数の2つの推定器を検討する。
誤差境界は、本質的に定義されたランゲヴィン拡散の離散化を用いてサンプリングと推定のために導出される。
論文 参考訳(メタデータ) (2023-12-22T18:01:11Z) - Sample Complexity Bounds for Estimating Probability Divergences under
Invariances [37.74032673086741]
群不変確率分布は、機械学習において多くのデータ生成モデルに現れる。
本研究では, 多様体上のリー群の滑らかな作用に関して, 固有の不変性が, サンプルの複雑性をいかに改善するかを考察する。
結果は正次元の群にとって全く新しいものであり、有限群作用に対する最近の境界を拡張する。
論文 参考訳(メタデータ) (2023-11-06T04:45:21Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Outlier-Robust Sparse Mean Estimation for Heavy-Tailed Distributions [42.6763105645717]
少数の破損したサンプルが与えられた場合、ゴールは確率の高い$mu$を正確に近似する仮説を効率的に計算することである。
本アルゴリズムは, 周辺次元と対数的にスケーリングするサンプルを多数使用して, 最適誤差を実現する。
我々の分析は、ある空間特性を満たす正の半定値に対する(非スペクトル)分解の繊細な設計を含む、独立した関心を持つかもしれない。
論文 参考訳(メタデータ) (2022-11-29T16:13:50Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Optimal 1-Wasserstein Distance for WGANs [2.1174215880331775]
有限標本とレジームの両方において、WGAN(Wasserstein GANs)を徹底的に解析する。
半離散状態における最適輸送理論の新たな結果を導出する。
論文 参考訳(メタデータ) (2022-01-08T13:04:03Z) - Unrolling Particles: Unsupervised Learning of Sampling Distributions [102.72972137287728]
粒子フィルタリングは複素系の優れた非線形推定を計算するために用いられる。
粒子フィルタは様々なシナリオにおいて良好な推定値が得られることを示す。
論文 参考訳(メタデータ) (2021-10-06T16:58:34Z) - Relative Entropy Gradient Sampler for Unnormalized Distributions [14.060615420986796]
非正規分布からのサンプリングのための相対エントロピー勾配サンプリング器(REGS)
REGSは、参照分布からサンプルへの初期サンプルを非正規化対象分布から反復的に押し出す単純な非線形変換の列を求める粒子法である。
論文 参考訳(メタデータ) (2021-10-06T14:10:38Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - Minimax Optimal Estimation of KL Divergence for Continuous Distributions [56.29748742084386]
Kullback-Leibler の同一および独立に分布するサンプルからの発散は、様々な領域において重要な問題である。
単純で効果的な推定器の1つは、これらのサンプル間の近辺 k に基づいている。
論文 参考訳(メタデータ) (2020-02-26T16:37:37Z) - Asymptotic Analysis of Sampling Estimators for Randomized Numerical
Linear Algebra Algorithms [43.134933182911766]
最小二乗問題に対するRandNLAサンプリング推定器の分布を導出する解析法を開発した。
AAMSE(Asymptotic Mean Squared Error)とEAMSE(Asymsymotic Mean Squared Error)に基づく最適なサンプリング確率の同定を行った。
提案手法は, サンプリングプロセスにおけるレバレッジの役割を明らかにするとともに, 実験により既存の手法よりも改善したことを示す。
論文 参考訳(メタデータ) (2020-02-24T20:34:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。