論文の概要: Generalised Parallel Tempering: Flexible Replica Exchange via Flows and Diffusions
- arxiv url: http://arxiv.org/abs/2502.10328v1
- Date: Fri, 14 Feb 2025 17:41:44 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-02-17 19:47:35.813486
- Title: Generalised Parallel Tempering: Flexible Replica Exchange via Flows and Diffusions
- Title（参考訳）: 一般化並列テンパリング:フローと拡散による柔軟なレプリカ交換
- Authors: Leo Zhang, Peter Potaptchik, Arnaud Doucet, Hai-Dang Dau, Saifuddin Syed,
- Abstract要約: 一般化並列テンパリング(GePT)は、現代の生成モデリングにおける最近の進歩を取り入れることができる。
GePTはサンプルの品質を向上し,複雑な分布を扱うために必要な計算資源の増大を低減できることを示す。
- 参考スコア（独自算出の注目度）: 25.670481267327453
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Parallel Tempering (PT) is a classical MCMC algorithm designed for leveraging parallel computation to sample efficiently from high-dimensional, multimodal or otherwise complex distributions via annealing. One limitation of the standard formulation of PT is the growth of computational resources required to generate high-quality samples, as measured by effective sample size or round trip rate, for increasingly challenging distributions. To address this issue, we propose the framework: Generalised Parallel Tempering (GePT) which allows for the incorporation of recent advances in modern generative modelling, such as normalising flows and diffusion models, within Parallel Tempering, while maintaining the same theoretical guarantees as MCMC-based methods. For instance, we show that this allows us to utilise diffusion models in a parallelised manner, bypassing the usual computational cost of a large number of steps to generate quality samples. Further, we empirically demonstrate that GePT can improve sample quality and reduce the growth of computational resources required to handle complex distributions over the classical algorithm.
- Abstract（参考訳）: 並列テンパリング(英: Parallel Tempering、PT)は、並列計算を利用して高次元、マルチモーダル、その他の複雑な分布を熱処理により効率的にサンプリングするために設計された古典的MCMCアルゴリズムである。
PTの標準定式化の1つの制限は、効率的なサンプルサイズやラウンドトリップレートによって測定されるように、高品質なサンプルを生成するために必要な計算資源の増加である。
一般化並列テンパリング(GePT)は, MCMC法と同じ理論的保証を維持しつつ, フローの正規化や拡散モデルなどの現代生成モデルにおける最近の進歩を取り入れることができる。
例えば、多くのステップの通常の計算コストを回避し、高品質なサンプルを生成することで、拡散モデルを並列的に活用できることが示される。
さらに,GePTがサンプル品質を向上し,古典的アルゴリズム上で複雑な分布を扱うために必要な計算資源の増大を低減できることを実証的に実証した。
関連論文リスト
- Accelerating MCMC with Quantum Walks: Design, Implementation, and Results [3.004066195320147]
本稿では、離散量子ウォーク(DQW)アルゴリズムに基づく新しいMCMCアルゴリズムの設計と実装について述べる。
量子重ね合わせを利用してターゲット分布の構造を効果的に捉えることを実証する。
さらに,コンバージェンス速度を大幅に向上する回路拡張を導入し,アルゴリズムのスケーラビリティを向上する。
論文 参考訳（メタデータ） (2025-04-16T13:53:32Z) - Enhancing Gradient-based Discrete Sampling via Parallel Tempering [8.195708231156546]
勾配に基づく離散サンプリング器は、高次元のマルチモーダル離散分布において局所的なミニマに閉じ込められやすい。
我々は、並列テンパリング(レプリカ交換としても知られる)と離散ランゲヴィン提案を組み合わせた離散ランゲヴィン提案を開発する。
我々は,本アルゴリズムが非漸近的に目標エネルギーに収束し,単一鎖よりも高速な混合を示すことを示す。
論文 参考訳（メタデータ） (2025-02-26T15:51:15Z) - Annealing Flow Generative Model Towards Sampling High-Dimensional and Multi-Modal Distributions [6.992239210938067]
Annealing Flowは、高次元およびマルチモーダル分布からサンプリングするために設計された、連続正規化フローベースのアプローチである。
AFは有効かつバランスの取れたモード探索を保証し、サンプルサイズと寸法の線形複雑さを達成し、非効率な混合時間を回避している。
論文 参考訳（メタデータ） (2024-09-30T17:48:22Z) - Diffusion Generative Modelling for Divide-and-Conquer MCMC [0.0]
Divide-and-conquer MCMCはマルコフ連鎖モンテカルロサンプリングの並列化戦略である。
本稿では,拡散生成モデルを用いて後続分布に密度近似を適合させる手法を提案する。
論文 参考訳（メタデータ） (2024-06-17T15:48:46Z) - Accelerating Multilevel Markov Chain Monte Carlo Using Machine Learning Models [0.0]
大規模問題に対するマルチレベルマルコフ・チェイン・モンテカルロ(MCMC)サンプリングを高速化するための効率的な手法を提案する。
提案したサンプルの低コストな評価には,低忠実度機械学習モデルを用いる。
本手法は地下水流の標準ベンチマーク推論問題において実証された。
論文 参考訳（メタデータ） (2024-05-18T05:13:11Z) - Distributed Markov Chain Monte Carlo Sampling based on the Alternating
Direction Method of Multipliers [143.6249073384419]
本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。
我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。
シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
論文 参考訳（メタデータ） (2024-01-29T02:08:40Z) - Online Variational Sequential Monte Carlo [49.97673761305336]
我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。
オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
論文 参考訳（メタデータ） (2023-12-19T21:45:38Z) - Learning Energy-Based Prior Model with Diffusion-Amortized MCMC [89.95629196907082]
非収束短距離MCMCを用いた事前及び後方サンプリングによる潜時空間EMM学習の一般的な実践は、さらなる進歩を妨げている。
本稿では,MCMCサンプリングのための単純だが効果的な拡散型アモータイズ手法を導入し,それに基づく潜時空間EMMのための新しい学習アルゴリズムを開発した。
論文 参考訳（メタデータ） (2023-10-05T00:23:34Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳（メタデータ） (2023-06-27T08:15:28Z) - Reconstructing the Universe with Variational self-Boosted Sampling [7.922637707393503]
ハミルトニアン・モンテカルロ (HMC) のような伝統的なアルゴリズムは、相関サンプルを生成するために計算的に非効率である。
本稿では,両アルゴリズムの欠点を軽減するために,変分自己ブーストサンプリング(VBS)と呼ばれるハイブリッド方式を開発する。
VBSは、単純なVIアプローチよりも優れた品質のサンプルを生成し、HMCのみを用いてサンプリングフェーズの相関長を10～50倍に削減する。
論文 参考訳（メタデータ） (2022-06-28T21:30:32Z) - Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。
パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
論文 参考訳（メタデータ） (2022-04-13T12:43:12Z) - Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。
一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
論文 参考訳（メタデータ） (2022-02-23T06:11:49Z) - Ensemble Slice Sampling: Parallel, black-box and gradient-free inference
for correlated & multimodal distributions [0.0]
スライスサンプリング (Slice Sampling) は、最小ハンドチューニングで目標分布の特性に適応するマルコフ連鎖モンテカルロアルゴリズムとして登場した。
本稿では,初期長さ尺度を適応的に調整することで,そのような困難を回避できるアルゴリズムであるEnsemble Slice Sampling(ESS)を紹介する。
これらのアフィン不変アルゴリズムは簡単に構築でき、手作業で調整する必要がなく、並列計算環境で容易に実装できる。
論文 参考訳（メタデータ） (2020-02-14T19:00:12Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。