論文の概要: Accelerated Parallel Tempering via Neural Transports

• arxiv url: http://arxiv.org/abs/2502.10328v2
• Date: Tue, 27 May 2025 14:46:51 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-05-28 17:05:58.089377
• Title: Accelerated Parallel Tempering via Neural Transports
• Title（参考訳）: ニューラルトランスポートによる並列テンパリングの高速化
• Authors: Leo Zhang, Peter Potaptchik, Jiajun He, Yuanqi Du, Arnaud Doucet, Francisco Vargas, Hai-Dang Dau, Saifuddin Syed,
• Abstract要約: 並列テンパリング(PT)は、並列計算によってMCMCのサンプル効率を向上させる。 ニューラルサンプリングを応用してPTを高速化するフレームワークを提案する。 提案手法は, サンプルの品質を向上する多モードサンプリング問題を理論的, 実証的に実証する。
• 参考スコア（独自算出の注目度）: 31.81728174953862
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Markov Chain Monte Carlo (MCMC) algorithms are essential tools in computational statistics for sampling from unnormalised probability distributions, but can be fragile when targeting high-dimensional, multimodal, or complex target distributions. Parallel Tempering (PT) enhances MCMC's sample efficiency through annealing and parallel computation, propagating samples from tractable reference distributions to intractable targets via state swapping across interpolating distributions. The effectiveness of PT is limited by the often minimal overlap between adjacent distributions in challenging problems, which requires increasing the computational resources to compensate. We introduce a framework that accelerates PT by leveraging neural samplers-including normalising flows, diffusion models, and controlled diffusions-to reduce the required overlap. Our approach utilises neural samplers in parallel, circumventing the computational burden of neural samplers while preserving the asymptotic consistency of classical PT. We demonstrate theoretically and empirically on a variety of multimodal sampling problems that our method improves sample quality, reduces the computational cost compared to classical PT, and enables efficient free energies/normalising constants estimation.
• Abstract（参考訳）: マルコフ・チェイン・モンテカルロ (MCMC) アルゴリズムは、正規化されていない確率分布からサンプリングする計算統計学において必須のツールであるが、高次元、マルチモーダル、複雑なターゲット分布をターゲットとする場合には脆弱である。 並列テンパリング(PT)は、アニールと並列計算によりMCMCのサンプル効率を向上し、補間分布をまたいだ状態スワップにより、抽出可能な参照分布から抽出可能なターゲットへサンプルを伝搬する。 PTの有効性は、計算資源を増やして補う問題において、隣接する分布間の最小の重なり合いによって制限される。 本稿では, ニューラルサンプリングシステム(正規化フロー, 拡散モデル, 制御拡散モデルなど)を活用することにより, PTを高速化するフレームワークを提案する。 本手法は,古典的PTの漸近的一貫性を保ちながら,ニューラルサンプリングの計算負担を回避し,並列にニューラルネットワークを利用する。 提案手法は,従来のPTに比べて計算コストを低減し,効率的な自由エネルギー/正規化定数推定を可能にする。

関連論文リスト

• Discrete Neural Flow Samplers with Locally Equivariant Transformer [25.911046280803586]
  離散サンプリングのためのトレーニング可能な,効率的なフレームワークである離散ニューラルネットワークサンプリング(DNFS)を提案する。 DNFS はコルモゴロフ方程式を満たすような連続時間マルコフ連鎖の速度行列を学習する。 計算効率をさらに向上するため,我々は局所同値変換器を提案し,レート行列の新しいパラメータ化を提案する。
  論文  参考訳（メタデータ） (2025-05-23T11:06:06Z)
• Mitigating mode collapse in normalizing flows by annealing with an adaptive schedule: Application to parameter estimation [0.6258471240250307]
  有効なサンプルサイズ(ESS)に基づく適応スケジュールは,モード崩壊を軽減できることを示す。 提案手法は, マルコフ連鎖モンテカルロ法より10倍少ない時間で時系列データに適合する生化学的発振子モデルの限界確率を収束させることを実証した。
  論文  参考訳（メタデータ） (2025-05-06T15:58:48Z)
• Accelerating MCMC with Quantum Walks: Design, Implementation, and Results [3.004066195320147]
  本稿では、離散量子ウォーク(DQW)アルゴリズムに基づく新しいMCMCアルゴリズムの設計と実装について述べる。 量子重ね合わせを利用してターゲット分布の構造を効果的に捉えることを実証する。 さらに,コンバージェンス速度を大幅に向上する回路拡張を導入し,アルゴリズムのスケーラビリティを向上する。
  論文  参考訳（メタデータ） (2025-04-16T13:53:32Z)
• Enhancing Gradient-based Discrete Sampling via Parallel Tempering [8.195708231156546]
  勾配に基づく離散サンプリング器は、高次元のマルチモーダル離散分布において局所的なミニマに閉じ込められやすい。 我々は、並列テンパリング(レプリカ交換としても知られる)と離散ランゲヴィン提案を組み合わせた離散ランゲヴィン提案を開発する。 我々は,本アルゴリズムが非漸近的に目標エネルギーに収束し,単一鎖よりも高速な混合を示すことを示す。
  論文  参考訳（メタデータ） (2025-02-26T15:51:15Z)
• Annealing Flow Generative Model Towards Sampling High-Dimensional and Multi-Modal Distributions [6.992239210938067]
  Annealing Flowは、高次元およびマルチモーダル分布からサンプリングするために設計された、連続正規化フローベースのアプローチである。 AFは有効かつバランスの取れたモード探索を保証し、サンプルサイズと寸法の線形複雑さを達成し、非効率な混合時間を回避している。
  論文  参考訳（メタデータ） (2024-09-30T17:48:22Z)
• Diffusion Generative Modelling for Divide-and-Conquer MCMC [0.0]
  Divide-and-conquer MCMCはマルコフ連鎖モンテカルロサンプリングの並列化戦略である。 本稿では,拡散生成モデルを用いて後続分布に密度近似を適合させる手法を提案する。
  論文  参考訳（メタデータ） (2024-06-17T15:48:46Z)
• Accelerating Multilevel Markov Chain Monte Carlo Using Machine Learning Models [0.0]
  大規模問題に対するマルチレベルマルコフ・チェイン・モンテカルロ(MCMC)サンプリングを高速化するための効率的な手法を提案する。 提案したサンプルの低コストな評価には,低忠実度機械学習モデルを用いる。 本手法は地下水流の標準ベンチマーク推論問題において実証された。
  論文  参考訳（メタデータ） (2024-05-18T05:13:11Z)
• Iterated Denoising Energy Matching for Sampling from Boltzmann Densities [109.23137009609519]
  反復Denoising Energy Matching (iDEM) iDEMは,拡散型サンプリング装置から高モデル密度のサンプリング領域を (I) 交換し, (II) それらのサンプルをマッチング目的に使用した。 提案手法は,全測定値の最先端性能を達成し,2～5倍の速さでトレーニングを行う。
  論文  参考訳（メタデータ） (2024-02-09T01:11:23Z)
• Distributed Markov Chain Monte Carlo Sampling based on the Alternating Direction Method of Multipliers [143.6249073384419]
  本論文では,乗算器の交互方向法に基づく分散サンプリング手法を提案する。 我々は,アルゴリズムの収束に関する理論的保証と,その最先端性に関する実験的証拠の両方を提供する。 シミュレーションでは,線形回帰タスクとロジスティック回帰タスクにアルゴリズムを配置し,その高速収束を既存の勾配法と比較した。
  論文  参考訳（メタデータ） (2024-01-29T02:08:40Z)
• Online Variational Sequential Monte Carlo [49.97673761305336]
  我々は,計算効率が高く正確なモデルパラメータ推定とベイジアン潜在状態推定を提供する変分連続モンテカルロ法(VSMC)を構築した。 オンラインVSMCは、パラメータ推定と粒子提案適応の両方を効率よく、完全にオンザフライで実行することができる。
  論文  参考訳（メタデータ） (2023-12-19T21:45:38Z)
• Learning Energy-Based Prior Model with Diffusion-Amortized MCMC [89.95629196907082]
  非収束短距離MCMCを用いた事前及び後方サンプリングによる潜時空間EMM学習の一般的な実践は、さらなる進歩を妨げている。 本稿では,MCMCサンプリングのための単純だが効果的な拡散型アモータイズ手法を導入し,それに基づく潜時空間EMMのための新しい学習アルゴリズムを開発した。
  論文  参考訳（メタデータ） (2023-10-05T00:23:34Z)
• Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
  Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。 本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
  論文  参考訳（メタデータ） (2023-06-27T08:15:28Z)
• Entropy-based Training Methods for Scalable Neural Implicit Sampler [20.35664492719671]
  本稿では,制限を克服する,効率的でスケーラブルな暗黙的ニューラルサンプリング手法を提案する。 暗黙のサンプルは計算コストの低い大量のサンプルを生成することができる。 この2つのトレーニング手法を用いることで、目的の分布から学習し、生成する神経暗黙のサンプルを効果的に最適化する。
  論文  参考訳（メタデータ） (2023-06-08T05:56:05Z)
• Reconstructing the Universe with Variational self-Boosted Sampling [7.922637707393503]
  ハミルトニアン・モンテカルロ (HMC) のような伝統的なアルゴリズムは、相関サンプルを生成するために計算的に非効率である。 本稿では,両アルゴリズムの欠点を軽減するために,変分自己ブーストサンプリング(VBS)と呼ばれるハイブリッド方式を開発する。 VBSは、単純なVIアプローチよりも優れた品質のサンプルを生成し、HMCのみを用いてサンプリングフェーズの相関長を10～50倍に削減する。
  論文  参考訳（メタデータ） (2022-06-28T21:30:32Z)
• Distributionally Robust Models with Parametric Likelihood Ratios [123.05074253513935]
  3つの単純なアイデアにより、より広いパラメトリックな確率比のクラスを用いてDROでモデルを訓練することができる。 パラメトリック逆数を用いてトレーニングしたモデルは、他のDROアプローチと比較して、サブポピュレーションシフトに対して一貫して頑健であることがわかった。
  論文  参考訳（メタデータ） (2022-04-13T12:43:12Z)
• Efficient CDF Approximations for Normalizing Flows [64.60846767084877]
  正規化フローの微分同相性に基づいて、閉領域上の累積分布関数(CDF)を推定する。 一般的なフローアーキテクチャとUCIデータセットに関する実験は,従来の推定器と比較して,サンプル効率が著しく向上したことを示している。
  論文  参考訳（メタデータ） (2022-02-23T06:11:49Z)
• Unrolling Particles: Unsupervised Learning of Sampling Distributions [102.72972137287728]
  粒子フィルタリングは複素系の優れた非線形推定を計算するために用いられる。 粒子フィルタは様々なシナリオにおいて良好な推定値が得られることを示す。
  論文  参考訳（メタデータ） (2021-10-06T16:58:34Z)
• Comparing Probability Distributions with Conditional Transport [63.11403041984197]
  新しい発散として条件輸送(CT)を提案し、償却されたCT(ACT)コストと近似します。 ACTは条件付き輸送計画の計算を補正し、計算が容易な非バイアスのサンプル勾配を持つ。 さまざまなベンチマークデータセットのジェネレーティブモデリングでは、既存のジェネレーティブ敵対ネットワークのデフォルトの統計距離をACTに置き換えることで、一貫してパフォーマンスを向上させることが示されています。
  論文  参考訳（メタデータ） (2020-12-28T05:14:22Z)
• Stochastic Normalizing Flows [2.323220706791067]
  単純な事前分布の変換を学習するために,フローの正規化が有効であることを示す。 サンプルとフローパラメータの両方をエンドツーエンドに最適化できる効率的なトレーニング手順を導出する。 いくつかのベンチマークでSNFの表現力,サンプリング効率,正当性について述べる。
  論文  参考訳（メタデータ） (2020-02-16T23:29:32Z)
• Ensemble Slice Sampling: Parallel, black-box and gradient-free inference for correlated & multimodal distributions [0.0]
  スライスサンプリング (Slice Sampling) は、最小ハンドチューニングで目標分布の特性に適応するマルコフ連鎖モンテカルロアルゴリズムとして登場した。 本稿では,初期長さ尺度を適応的に調整することで,そのような困難を回避できるアルゴリズムであるEnsemble Slice Sampling(ESS)を紹介する。 これらのアフィン不変アルゴリズムは簡単に構築でき、手作業で調整する必要がなく、並列計算環境で容易に実装できる。
  論文  参考訳（メタデータ） (2020-02-14T19:00:12Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。