論文の概要: On Cyclical MCMC Sampling

• arxiv url: http://arxiv.org/abs/2403.00230v1
• Date: Fri, 1 Mar 2024 02:20:44 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-05 18:23:21.583489
• Title: On Cyclical MCMC Sampling
• Title（参考訳）: 循環型MCMCサンプリングについて
• Authors: Liwei Wang, Xinru Liu, Aaron Smith, Yves Atchade
• Abstract要約: 循環型MCMCはマルコフカーネルが高速な混合を行う場合の所望の確率分布に収束することを示す。 また, 循環MCMCは, 目標に収束しない場合でも, 各モードの周囲の分布の局所的な形状をよく推定することを示した。
• 参考スコア（独自算出の注目度）: 13.002470980542707
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Cyclical MCMC is a novel MCMC framework recently proposed by Zhang et al. (2019) to address the challenge posed by high-dimensional multimodal posterior distributions like those arising in deep learning. The algorithm works by generating a nonhomogeneous Markov chain that tracks -- cyclically in time -- tempered versions of the target distribution. We show in this work that cyclical MCMC converges to the desired probability distribution in settings where the Markov kernels used are fast mixing, and sufficiently long cycles are employed. However in the far more common settings of slow mixing kernels, the algorithm may fail to produce samples from the desired distribution. In particular, in a simple mixture example with unequal variance, we show by simulation that cyclical MCMC fails to converge to the desired limit. Finally, we show that cyclical MCMC typically estimates well the local shape of the target distribution around each mode, even when we do not have convergence to the target.
• Abstract（参考訳）: Cyclical MCMC は Zhang et al. (2019) によって最近提案された新しいMCMCフレームワークで、深層学習で発生するような高次元の多モード後部分布による課題に対処する。 このアルゴリズムは、ターゲット分布の時間的テンパリングバージョンを追跡する非均質なマルコフ連鎖を生成することで動作する。 この研究において、マルコフ核が高速混合であり、十分に長いサイクルが用いられる設定において、循環MCMCが所望の確率分布に収束することを示す。 しかし、遅い混合カーネルのより一般的な設定では、アルゴリズムは所望の分布からサンプルを生成することができない。 特に、不等分散を伴う単純な混合例では、循環MCMCが所望の極限に収束しないことを示すシミュレーションによって示される。 最後に、循環型MCMCは、通常、目標に収束していない場合でも、各モードの周囲の目標分布の局所的な形状をよく推定する。

関連論文リスト

• Symmetry-driven embedding of networks in hyperbolic space [0.4779196219827508]
  双曲モデルでは、経験的ネットワークの重み付き次数分布、高いクラスタリング、階層構造を再現することができる。 しかし、ネットワークの双曲座標を見つけるための現在のアルゴリズムは、推論された座標の不確かさを定量化しない。 BIGUEはマルコフ連鎖モンテカルロアルゴリズムであり、ベイズ的双曲乱数グラフモデルの後部分布をサンプリングする。
  論文  参考訳（メタデータ） (2024-06-15T18:44:02Z)
• Convergence Bounds for Sequential Monte Carlo on Multimodal Distributions using Soft Decomposition [6.872242798058046]
  逐次モンテカルロ法(SMC)アルゴリズムにより得られたサンプルの実証測度の下での関数の分散に関するバウンダリを証明した。 我々は,局所MCMC力学に依存する混合時間を用いて,真のマルチモーダル設定でバウンダリが得られることを示す。
  論文  参考訳（メタデータ） (2024-05-29T22:43:45Z)
• SpreadNUTS -- Moderate Dynamic Extension of Paths for No-U-Turn Sampling & Partitioning Visited Regions [0.0]
  本稿では,no-U-turn sampler (NUTS) として知られる特定のハミルトンモンテカルロ (HMC) アルゴリズムの変更を紹介する。 NUTS は NUTS よりも早くサンプル空間を探索することを目的としており、真分布への収束が NUTS より高速なサンプリング器を提供する。
  論文  参考訳（メタデータ） (2023-07-09T05:00:25Z)
• Reverse Diffusion Monte Carlo [19.35592726471155]
  逆拡散モンテカルロ(rdMC)と呼ばれる新しいモンテカルロサンプリングアルゴリズムを提案する。 rdMCはマルコフ連鎖モンテカルロ(MCMC)法とは異なる。
  論文  参考訳（メタデータ） (2023-07-05T05:42:03Z)
• Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
  Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。 本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
  論文  参考訳（メタデータ） (2023-06-27T08:15:28Z)
• Bayesian Decision Trees Inspired from Evolutionary Algorithms [64.80360020499555]
  我々は、マルコフ連鎖モンテカルロ(MCMC)を本質的に並列なアルゴリズムであるシーケンシャルモンテカルロ(SMC)に置き換えることを提案する。 実験により、SMCと進化的アルゴリズム(EA)を組み合わせることで、MCMCの100倍のイテレーションでより正確な結果が得られることが示された。
  論文  参考訳（メタデータ） (2023-05-30T06:17:35Z)
• Finite Sample Complexity of Sequential Monte Carlo Estimators on Multimodal Target Distributions [0.0]
  我々は、関連するカーネルの局所混合時間のみを必要とするシーケンシャルモンテカルロ(SMC)アルゴリズムに対する有限サンプル複素数を証明する。 対象の分布がマルチモーダルであり、カーネルのグローバルな混合が遅い場合、我々の境界は特に有用である。
  論文  参考訳（メタデータ） (2022-08-13T15:06:03Z)
• Deterministic Gibbs Sampling via Ordinary Differential Equations [77.42706423573573]
  本稿では,自律的ODEとツールを用いた決定論的測度保存ダイナミクスの一般構築について述べる。 我々は、ハイブリッドモンテカルロや他の決定論的サンプルが、我々の理論の特別な場合としてどのように従うかを示す。
  論文  参考訳（メタデータ） (2021-06-18T15:36:09Z)
• Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
  ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。 本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。 本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
  論文  参考訳（メタデータ） (2021-02-04T02:21:08Z)
• MCMC-Interactive Variational Inference [56.58416764959414]
  本稿では, MCMC-interactive variational inference (MIVI) を提案し, 後部を時間制約で推定する。 MIVIは変分推論とMCMCの相補的特性を利用して相互改善を促進する。 実験により、MIVIは後部を正確に近似するだけでなく、勾配MCMCとギブスサンプリング遷移の設計を容易にすることが示された。
  論文  参考訳（メタデータ） (2020-10-02T17:43:20Z)
• Targeted stochastic gradient Markov chain Monte Carlo for hidden Markov models with rare latent states [48.705095800341944]
  隠れマルコフモデルのためのマルコフ連鎖モンテカルロ (MCMC) アルゴリズムは、しばしば前向きのサンプリング器に依存する。 これにより、時系列の長さが増加するにつれて計算が遅くなり、サブサンプリングベースのアプローチの開発が動機となる。 本稿では,パラメータの勾配を計算する際に,希少な潜伏状態に対応するオーバーサンプリング観測を対象とするサブサンプリング手法を提案する。
  論文  参考訳（メタデータ） (2018-10-31T17:44:20Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。