論文の概要: A fast non-reversible sampler for Bayesian finite mixture models
- arxiv url: http://arxiv.org/abs/2510.03226v1
- Date: Fri, 03 Oct 2025 17:57:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-10-06 16:35:52.536088
- Title: A fast non-reversible sampler for Bayesian finite mixture models
- Title(参考訳): ベイズ有限混合モデルに対する高速非可逆サンプリング器
- Authors: Filippo Ascolani, Giacomo Zanella,
- Abstract要約: 有限混合モデルに対する新規で単純な非可逆的サンプリング手法を提案する。
提案した非可逆スキームの性能は, 標準スキームよりも悪くはならないことを示す。
また, 混合モデルの統計的特徴が, 非可逆離散サンプリング器の使用に最適である理由についても論じる。
- 参考スコア(独自算出の注目度): 1.4466802614938334
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Finite mixtures are a cornerstone of Bayesian modelling, and it is well-known that sampling from the resulting posterior distribution can be a hard task. In particular, popular reversible Markov chain Monte Carlo schemes are often slow to converge when the number of observations $n$ is large. In this paper we introduce a novel and simple non-reversible sampling scheme for Bayesian finite mixture models, which is shown to drastically outperform classical samplers in many scenarios of interest, especially during convergence phase and when components in the mixture have non-negligible overlap. At the theoretical level, we show that the performance of the proposed non-reversible scheme cannot be worse than the standard one, in terms of asymptotic variance, by more than a factor of four; and we provide a scaling limit analysis suggesting that the non-reversible sampler can reduce the convergence time from O$(n^2)$ to O$(n)$. We also discuss why the statistical features of mixture models make them an ideal case for the use of non-reversible discrete samplers.
- Abstract(参考訳): 有限混合はベイズ模型の基盤であり、結果として生じる後部分布からのサンプリングは難しい課題である。
特に、一般的な可逆的マルコフ連鎖モンテカルロスキームは、n$の観測数が大きければ収束が遅くなる。
本稿では,ベイズ有限混合モデルの新規かつ単純な非可逆的サンプリング手法を提案する。これは,特に収束相および混合中の成分が非無視的重複を持つ場合において,多くのシナリオにおいて,古典的サンプリングよりも大幅に優れていることを示す。
理論レベルでは, 提案した非可逆的スキームの性能は, 漸近的分散の点において, 4 倍以上の係数で標準よりも悪くならないことを示すとともに, 非可逆的サンプリング器が O$(n^2)$ から O$(n)$ への収束時間を短縮できることを示すスケーリング限界解析を行う。
また, 混合モデルの統計的特徴が, 非可逆離散サンプリング器の使用に最適である理由についても論じる。
関連論文リスト
- Efficiently Generating Correlated Sample Paths from Multi-step Time Series Foundation Models [66.60042743462175]
時系列基礎モデルから正確な相関サンプルパスを効率的に生成するためのコプラに基づく手法を提案する。
提案手法は, 自己回帰サンプリングよりもはるかに高速に相関したサンプルパスを生成する。
論文 参考訳(メタデータ) (2025-10-02T17:08:58Z) - Generative Modeling with Bayesian Sample Inference [50.07758840675341]
我々は,反復的なガウス後部推論から新しい生成モデルを導出した。
我々のモデルは、未知のサンプルを反復的に絞り込むために、一連の予測と後続の更新ステップを使用する。
実験では,BFNと近縁な変分拡散モデルの両方に対して,ImageNet32のサンプル品質が向上することが実証された。
論文 参考訳(メタデータ) (2025-02-11T14:27:10Z) - Efficiently learning and sampling multimodal distributions with data-based initialization [20.575122468674536]
静止測度から少数のサンプルを与えられたマルコフ連鎖を用いて多重モーダル分布をサンプリングする問題を考察する。
マルコフ連鎖が$k$dのスペクトルギャップを持つ場合、静止分布からのサンプルは、静止測度からテレビ距離において$varepsilon$-closeの条件法則を持つサンプルを効率よく生成する。
論文 参考訳(メタデータ) (2024-11-14T01:37:02Z) - Theory on Score-Mismatched Diffusion Models and Zero-Shot Conditional Samplers [49.97755400231656]
一般のスコアミスマッチ拡散サンプリング器に対する明示的な次元依存性を持つ最初の性能保証を示す。
その結果, スコアミスマッチは, 目標分布とサンプリング分布の分布バイアスとなり, 目標分布とトレーニング分布の累積ミスマッチに比例することがわかった。
この結果は、測定ノイズに関係なく、任意の条件モデルに対するゼロショット条件付きサンプリングに直接適用することができる。
論文 参考訳(メタデータ) (2024-10-17T16:42:12Z) - Stable generative modeling using Schrödinger bridges [0.22499166814992438]
本稿では,Schr"odinger BridgesとLangevin dynamicsを組み合わせた生成モデルを提案する。
我々のフレームワークは自然に条件付きサンプルを生成し、ベイズ推論問題に拡張することができる。
論文 参考訳(メタデータ) (2024-01-09T06:15:45Z) - Differentiating Metropolis-Hastings to Optimize Intractable Densities [51.16801956665228]
我々はメトロポリス・ハスティングス検層の自動識別アルゴリズムを開発した。
難解な対象密度に対する期待値として表現された目的に対して勾配に基づく最適化を適用する。
論文 参考訳(メタデータ) (2023-06-13T17:56:02Z) - Dimension-free mixing times of Gibbs samplers for Bayesian hierarchical
models [0.0]
階層モデルを対象としたギブス試料の総変動混合時間の挙動を解析した。
2段階モデルの幅広いクラスに対するランダムなデータ生成仮定の下で収束結果を得る。
論文 参考訳(メタデータ) (2023-04-14T08:30:40Z) - A fast asynchronous MCMC sampler for sparse Bayesian inference [10.535140830570256]
本稿では,非常に高速なマルコフ・チェイン・モンテカルロ(MCMC)サンプリングフレームワークを提案する。
本研究では, 高次元線形回帰問題において, 提案アルゴリズムで生成したマルコフ連鎖は, 主信号の正確な復元を行う不変分布を持つことを示す。
論文 参考訳(メタデータ) (2021-08-14T02:20:49Z) - Stacking for Non-mixing Bayesian Computations: The Curse and Blessing of
Multimodal Posteriors [8.11978827493967]
MCMCの並列実行, 変動型, モードベースの推論を用いて, できるだけ多くのモードをヒットさせる手法を提案する。
重み付き推論プロセスが真のデータを近似する例と理論的整合性を示す。
いくつかのモデルファミリで実践的な実装を示す。
論文 参考訳(メタデータ) (2020-06-22T15:26:59Z) - Efficiently Sampling Functions from Gaussian Process Posteriors [76.94808614373609]
高速後部サンプリングのための簡易かつ汎用的なアプローチを提案する。
分離されたサンプルパスがガウス過程の後部を通常のコストのごく一部で正確に表現する方法を実証する。
論文 参考訳(メタデータ) (2020-02-21T14:03:16Z) - Distributed, partially collapsed MCMC for Bayesian Nonparametrics [68.5279360794418]
ディリクレ法やベータ・ベルヌーリ法のようなモデルでよく用いられる完全無作為測度は独立な部分測度に分解可能であるという事実を利用する。
この分解を用いて、潜在測度を、インスタンス化された成分のみを含む有限測度と、他のすべての成分を含む無限測度に分割する。
得られたハイブリッドアルゴリズムは、収束保証を犠牲にすることなくスケーラブルな推論を可能にすることができる。
論文 参考訳(メタデータ) (2020-01-15T23:10:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。