論文の概要: Mean-Square Analysis of Discretized It\^o Diffusions for Heavy-tailed
Sampling
- arxiv url: http://arxiv.org/abs/2303.00570v1
- Date: Wed, 1 Mar 2023 15:16:03 GMT
- ステータス: 処理完了
- システム内更新日: 2023-03-03 17:12:56.866367
- Title: Mean-Square Analysis of Discretized It\^o Diffusions for Heavy-tailed
Sampling
- Title(参考訳): 重み付きサンプリングのための離散化it\^o拡散の平均二乗解析
- Authors: Ye He, Tyler Farghly, Krishnakumar Balasubramanian, Murat A. Erdogdu
- Abstract要約: 重み付きポインカーの不等式に関連する伊藤拡散の自然クラスを離散化することにより、重み付き分布のクラスからのサンプリングの複雑さを分析する。
平均二乗解析に基づいて、ワッサーシュタイン2計量のターゲット分布に近い分布が$epsilon$のサンプルを得るための反復複雑性を確立する。
- 参考スコア(独自算出の注目度): 17.415391025051434
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: We analyze the complexity of sampling from a class of heavy-tailed
distributions by discretizing a natural class of It\^o diffusions associated
with weighted Poincar\'e inequalities. Based on a mean-square analysis, we
establish the iteration complexity for obtaining a sample whose distribution is
$\epsilon$ close to the target distribution in the Wasserstein-2 metric. In
this paper, our results take the mean-square analysis to its limits, i.e., we
invariably only require that the target density has finite variance, the
minimal requirement for a mean-square analysis. To obtain explicit estimates,
we compute upper bounds on certain moments associated with heavy-tailed targets
under various assumptions. We also provide similar iteration complexity results
for the case where only function evaluations of the unnormalized target density
are available by estimating the gradients using a Gaussian smoothing technique.
We provide illustrative examples based on the multivariate $t$-distribution.
- Abstract(参考訳): 重み付きポアンカルの不等式に関連する it\^o 拡散の自然クラスを判別することにより,重み付き分布のクラスからのサンプリングの複雑さを解析した。
平均二乗解析に基づいて、wasserstein-2 メトリックのターゲット分布に近い$\epsilon$ の分布を持つサンプルを得るための反復複雑性を確立する。
本稿では, 平均二乗解析をその限界, すなわち, 対象密度が有限分散であること, 平均二乗解析の最小要件を必然的に要求する。
明示的な推定を得るために、重尾目標に関連する特定のモーメント上の上限を様々な仮定の下で計算する。
また,正規化対象密度の関数評価のみがガウス平滑化法を用いて勾配を推定できる場合にも同様の反復複雑性結果を提供する。
多変量 $t$-distribution に基づいた例を示す。
関連論文リスト
- Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
本報告では,明示的な次元の一般スコアミスマッチ拡散サンプリング器を用いた最初の性能保証について述べる。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - Convergence of Score-Based Discrete Diffusion Models: A Discrete-Time Analysis [56.442307356162864]
連続時間マルコフ連鎖(CTMC)に基づくスコアベース離散拡散モデルの理論的側面について検討する。
本稿では,事前定義された時間点におけるスコア推定値を利用する離散時間サンプリングアルゴリズムを一般状態空間$[S]d$に導入する。
我々の収束解析はジルサノフ法を用いて離散スコア関数の重要な性質を確立する。
論文 参考訳(メタデータ) (2024-10-03T09:07:13Z) - Classification of Heavy-tailed Features in High Dimensions: a
Superstatistical Approach [1.4469725791865984]
我々は2つのデータポイントの雲と一般的なセントロイドの混合の学習を特徴付ける。
得られた推定器の一般化性能について検討し、正規化の役割を解析し、分離性遷移を解析した。
論文 参考訳(メタデータ) (2023-04-06T07:53:05Z) - Outlier-Robust Sparse Mean Estimation for Heavy-Tailed Distributions [42.6763105645717]
少数の破損したサンプルが与えられた場合、ゴールは確率の高い$mu$を正確に近似する仮説を効率的に計算することである。
本アルゴリズムは, 周辺次元と対数的にスケーリングするサンプルを多数使用して, 最適誤差を実現する。
我々の分析は、ある空間特性を満たす正の半定値に対する(非スペクトル)分解の繊細な設計を含む、独立した関心を持つかもしれない。
論文 参考訳(メタデータ) (2022-11-29T16:13:50Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳(メタデータ) (2022-02-23T06:11:49Z) - Optimal 1-Wasserstein Distance for WGANs [2.1174215880331775]
有限標本とレジームの両方において、WGAN(Wasserstein GANs)を徹底的に解析する。
半離散状態における最適輸送理論の新たな結果を導出する。
論文 参考訳(メタデータ) (2022-01-08T13:04:03Z) - Unrolling Particles: Unsupervised Learning of Sampling Distributions [102.72972137287728]
粒子フィルタリングは複素系の優れた非線形推定を計算するために用いられる。
粒子フィルタは様々なシナリオにおいて良好な推定値が得られることを示す。
論文 参考訳(メタデータ) (2021-10-06T16:58:34Z) - Relative Entropy Gradient Sampler for Unnormalized Distributions [14.060615420986796]
非正規分布からのサンプリングのための相対エントロピー勾配サンプリング器(REGS)
REGSは、参照分布からサンプルへの初期サンプルを非正規化対象分布から反復的に押し出す単純な非線形変換の列を求める粒子法である。
論文 参考訳(メタデータ) (2021-10-06T14:10:38Z) - Heavy-tailed Streaming Statistical Estimation [58.70341336199497]
ストリーミング$p$のサンプルから重み付き統計推定の課題を考察する。
そこで我々は,傾きの雑音に対して,よりニュアンスな条件下での傾きの傾きの低下を設計し,より詳細な解析を行う。
論文 参考訳(メタデータ) (2021-08-25T21:30:27Z) - Minimax Optimal Estimation of KL Divergence for Continuous Distributions [56.29748742084386]
Kullback-Leibler の同一および独立に分布するサンプルからの発散は、様々な領域において重要な問題である。
単純で効果的な推定器の1つは、これらのサンプル間の近辺 k に基づいている。
論文 参考訳(メタデータ) (2020-02-26T16:37:37Z) - Asymptotic Analysis of Sampling Estimators for Randomized Numerical
Linear Algebra Algorithms [43.134933182911766]
最小二乗問題に対するRandNLAサンプリング推定器の分布を導出する解析法を開発した。
AAMSE(Asymptotic Mean Squared Error)とEAMSE(Asymsymotic Mean Squared Error)に基づく最適なサンプリング確率の同定を行った。
提案手法は, サンプリングプロセスにおけるレバレッジの役割を明らかにするとともに, 実験により既存の手法よりも改善したことを示す。
論文 参考訳(メタデータ) (2020-02-24T20:34:50Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。