論文の概要: Generalised Parallel Tempering: Flexible Replica Exchange via Flows and Diffusions

• arxiv url: http://arxiv.org/abs/2502.10328v1
• Date: Fri, 14 Feb 2025 17:41:44 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-02-17 19:47:35.813486
• Title: Generalised Parallel Tempering: Flexible Replica Exchange via Flows and Diffusions
• Title（参考訳）: 一般化並列テンパリング:フローと拡散による柔軟なレプリカ交換
• Authors: Leo Zhang, Peter Potaptchik, Arnaud Doucet, Hai-Dang Dau, Saifuddin Syed,
• Abstract要約: 一般化並列テンパリング(GePT)は、現代の生成モデリングにおける最近の進歩を取り入れることができる。 GePTはサンプルの品質を向上し,複雑な分布を扱うために必要な計算資源の増大を低減できることを示す。
• 参考スコア（独自算出の注目度）: 25.670481267327453
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Parallel Tempering (PT) is a classical MCMC algorithm designed for leveraging parallel computation to sample efficiently from high-dimensional, multimodal or otherwise complex distributions via annealing. One limitation of the standard formulation of PT is the growth of computational resources required to generate high-quality samples, as measured by effective sample size or round trip rate, for increasingly challenging distributions. To address this issue, we propose the framework: Generalised Parallel Tempering (GePT) which allows for the incorporation of recent advances in modern generative modelling, such as normalising flows and diffusion models, within Parallel Tempering, while maintaining the same theoretical guarantees as MCMC-based methods. For instance, we show that this allows us to utilise diffusion models in a parallelised manner, bypassing the usual computational cost of a large number of steps to generate quality samples. Further, we empirically demonstrate that GePT can improve sample quality and reduce the growth of computational resources required to handle complex distributions over the classical algorithm.
• Abstract（参考訳）: 並列テンパリング(英: Parallel Tempering、PT)は、並列計算を利用して高次元、マルチモーダル、その他の複雑な分布を熱処理により効率的にサンプリングするために設計された古典的MCMCアルゴリズムである。 PTの標準定式化の1つの制限は、効率的なサンプルサイズやラウンドトリップレートによって測定されるように、高品質なサンプルを生成するために必要な計算資源の増加である。 一般化並列テンパリング(GePT)は, MCMC法と同じ理論的保証を維持しつつ, フローの正規化や拡散モデルなどの現代生成モデルにおける最近の進歩を取り入れることができる。 例えば、多くのステップの通常の計算コストを回避し、高品質なサンプルを生成することで、拡散モデルを並列的に活用できることが示される。 さらに,GePTがサンプル品質を向上し,古典的アルゴリズム上で複雑な分布を扱うために必要な計算資源の増大を低減できることを実証的に実証した。

関連論文リスト

• Discrete Neural Flow Samplers with Locally Equivariant Transformer [25.911046280803586]
  離散サンプリングのためのトレーニング可能な,効率的なフレームワークである離散ニューラルネットワークサンプリング(DNFS)を提案する。 DNFS はコルモゴロフ方程式を満たすような連続時間マルコフ連鎖の速度行列を学習する。 計算効率をさらに向上するため,我々は局所同値変換器を提案し,レート行列の新しいパラメータ化を提案する。
  論文  参考訳（メタデータ） (2025-05-23T11:06:06Z)
• Mitigating mode collapse in normalizing flows by annealing with an adaptive schedule: Application to parameter estimation [0.6258471240250307]
  有効なサンプルサイズ(ESS)に基づく適応スケジュールは,モード崩壊を軽減できることを示す。 提案手法は, マルコフ連鎖モンテカルロ法より10倍少ない時間で時系列データに適合する生化学的発振子モデルの限界確率を収束させることを実証した。
  論文  参考訳（メタデータ） (2025-05-06T15:58:48Z)
• Accelerating MCMC with Quantum Walks: Design, Implementation, and Results [3.004066195320147]
  本稿では、離散量子ウォーク(DQW)アルゴリズムに基づく新しいMCMCアルゴリズムの設計と実装について述べる。 量子重ね合わせを利用してターゲット分布の構造を効果的に捉えることを実証する。 さらに,コンバージェンス速度を大幅に向上する回路拡張を導入し,アルゴリズムのスケーラビリティを向上する。
  論文  参考訳（メタデータ） (2025-04-16T13:53:32Z)
• Enhancing Gradient-based Discrete Sampling via Parallel Tempering [8.195708231156546]
  勾配に基づく離散サンプリング器は、高次元のマルチモーダル離散分布において局所的なミニマに閉じ込められやすい。 我々は、並列テンパリング(レプリカ交換としても知られる)と離散ランゲヴィン提案を組み合わせた離散ランゲヴィン提案を開発する。 我々は,本アルゴリズムが非漸近的に目標エネルギーに収束し,単一鎖よりも高速な混合を示すことを示す。
  論文  参考訳（メタデータ） (2025-02-26T15:51:15Z)
• Annealing Flow Generative Model Towards Sampling High-Dimensional and Multi-Modal Distributions [6.992239210938067]
  Annealing Flowは、高次元およびマルチモーダル分布からサンプリングするために設計された、連続正規化フローベースのアプローチである。 AFは有効かつバランスの取れたモード探索を保証し、サンプルサイズと寸法の線形複雑さを達成し、非効率な混合時間を回避している。
  論文  参考訳（メタデータ） (2024-09-30T17:48:22Z)
• Diffusion Generative Modelling for Divide-and-Conquer MCMC [0.0]
  Divide-and-conquer MCMCはマルコフ連鎖モンテカルロサンプリングの並列化戦略である。 本稿では,拡散生成モデルを用いて後続分布に密度近似を適合させる手法を提案する。
  論文  参考訳（メタデータ） (2024-06-17T15:48:46Z)
• Accelerating Multilevel Markov Chain Monte Carlo Using Machine Learning Models [0.0]
  大規模問題に対するマルチレベルマルコフ・チェイン・モンテカルロ(MCMC)サンプリングを高速化するための効率的な手法を提案する。 提案したサンプルの低コストな評価には,低忠実度機械学習モデルを用いる。 本手法は地下水流の標準ベンチマーク推論問題において実証された。
  論文  参考訳（メタデータ） (2024-05-18T05:13:11Z)
• Iterated Denoising Energy Matching for Sampling from Boltzmann Densities [109.23137009609519]
  反復Denoising Energy Matching (iDEM) iDEMは,拡散型サンプリング装置から高モデル密度のサンプリング領域を (I) 交換し, (II) それらのサンプルをマッチング目的に使用した。 提案手法は,全測定値の最先端性能を達成し,2～5倍の速さでトレーニングを行う。
  論文  参考訳（メタデータ） (2024-02-09T01:11:23Z)
• Distributed Markov Chain Monte Carlo Sampling based on the Alternating Direction Method of Multipliers [143.6249073384419]
  本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。 我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。 シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
  論文  参考訳（メタデータ） (2024-01-29T02:08:40Z)
• Online Variational Sequential Monte Carlo [49.97673761305336]
  我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。 オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
  論文  参考訳（メタデータ） (2023-12-19T21:45:38Z)
• Learning Energy-Based Prior Model with Diffusion-Amortized MCMC [89.95629196907082]
  非収束短距離MCMCを用いた事前及び後方サンプリングによる潜時空間EMM学習の一般的な実践は、さらなる進歩を妨げている。 本稿では,MCMCサンプリングのための単純だが効果的な拡散型アモータイズ手法を導入し,それに基づく潜時空間EMMのための新しい学習アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2023-10-05T00:23:34Z)
• Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
  Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。 本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
  論文  参考訳（メタデータ） (2023-06-27T08:15:28Z)
• Entropy-based Training Methods for Scalable Neural Implicit Sampler [20.35664492719671]
  本稿では,制限を克服する,効率的でスケーラブルな暗黙的ニューラルサンプリング手法を提案する。 暗黙のサンプルは計算コストの低い大量のサンプルを生成することができる。 この2つのトレーニング手法を用いることで、目的の分布から学習し、生成する神経暗黙のサンプルを効果的に最適化する。
  論文  参考訳（メタデータ） (2023-06-08T05:56:05Z)
• Reconstructing the Universe with Variational self-Boosted Sampling [7.922637707393503]
  ハミルトニアン・モンテカルロ (HMC) のような伝統的なアルゴリズムは、相関サンプルを生成するために計算的に非効率である。 本稿では,両アルゴリズムの欠点を軽減するために,変分自己ブーストサンプリング(VBS)と呼ばれるハイブリッド方式を開発する。 VBSは、単純なVIアプローチよりも優れた品質のサンプルを生成し、HMCのみを用いてサンプリングフェーズの相関長を10～50倍に削減する。
  論文  参考訳（メタデータ） (2022-06-28T21:30:32Z)
• Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
  3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。 パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
  論文  参考訳（メタデータ） (2022-04-13T12:43:12Z)
• Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
  正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。 一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
  論文  参考訳（メタデータ） (2022-02-23T06:11:49Z)
• Unrolling Particles: Unsupervised Learning of Sampling Distributions [102.72972137287728]
  粒子フィルタリングは複素系の優れた非線形推定を計算するために用いられる。 粒子フィルタは様々なシナリオにおいて良好な推定値が得られることを示す。
  論文  参考訳（メタデータ） (2021-10-06T16:58:34Z)
• Comparing Probability Distributions with Conditional Transport [63.11403041984197]
  新しい発散として条件輸送(CT)を提案し、償却されたCT(ACT)コストと近似します。 ACTは条件付き輸送計画の計算を補正し、計算が容易な非バイアスのサンプル勾配を持つ。 さまざまなベンチマークデータセットのジェネレーティブモデリングでは、既存のジェネレーティブ敵対ネットワークのデフォルトの統計距離をACTに置き換えることで、一貫してパフォーマンスを向上させることが示されています。
  論文  参考訳（メタデータ） (2020-12-28T05:14:22Z)
• Stochastic Normalizing Flows [2.323220706791067]
  単純な事前分布の変換を学習するために,フローの正規化が有効であることを示す。 サンプルとフローパラメータの両方をエンドツーエンドに最適化できる効率的なトレーニング手順を導出する。 いくつかのベンチマークでSNFの表現力,サンプリング効率,正当性について述べる。
  論文  参考訳（メタデータ） (2020-02-16T23:29:32Z)
• Ensemble Slice Sampling: Parallel, black-box and gradient-free inference for correlated & multimodal distributions [0.0]
  スライスサンプリング (Slice Sampling) は、最小ハンドチューニングで目標分布の特性に適応するマルコフ連鎖モンテカルロアルゴリズムとして登場した。 本稿では,初期長さ尺度を適応的に調整することで,そのような困難を回避できるアルゴリズムであるEnsemble Slice Sampling(ESS)を紹介する。 これらのアフィン不変アルゴリズムは簡単に構築でき、手作業で調整する必要がなく、並列計算環境で容易に実装できる。
  論文  参考訳（メタデータ） (2020-02-14T19:00:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。