論文の概要: Sampling from multimodal distributions using tempered Hamiltonian
transitions
- arxiv url: http://arxiv.org/abs/2111.06871v1
- Date: Fri, 12 Nov 2021 18:48:36 GMT
- ステータス: 処理完了
- システム内更新日: 2021-11-15 14:17:12.901691
- Title: Sampling from multimodal distributions using tempered Hamiltonian
transitions
- Title(参考訳): テンパレートハミルトニアン遷移を用いたマルチモーダル分布からのサンプリング
- Authors: Joonha Park
- Abstract要約: ハミルトニアン・モンテカルロ法は、正規化されていないターゲット密度からサンプルを引き出すのに広く用いられている。
我々は、構築された経路が高ポテンシャルエネルギー障壁を通過することができるハミルトニアンモンテカルロ法を開発した。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Hamiltonian Monte Carlo (HMC) methods are widely used to draw samples from
unnormalized target densities due to high efficiency and favorable scalability
with respect to increasing space dimensions. However, HMC struggles when the
target distribution is multimodal, because the maximum increase in the
potential energy function (i.e., the negative log density function) along the
simulated path is bounded by the initial kinetic energy, which follows a half
of the $\chi_d^2$ distribution, where d is the space dimension. In this paper,
we develop a Hamiltonian Monte Carlo method where the constructed paths can
travel across high potential energy barriers. This method does not require the
modes of the target distribution to be known in advance. Our approach enables
frequent jumps between the isolated modes of the target density by continuously
varying the mass of the simulated particle while the Hamiltonian path is
constructed. Thus, this method can be considered as a combination of HMC and
the tempered transitions method. Compared to other tempering methods, our
method has a distinctive advantage in the Gibbs sampler settings, where the
target distribution changes at each step. We develop a practical tuning
strategy for our method and demonstrate that it can construct globally mixing
Markov chains targeting high-dimensional, multimodal distributions, using
mixtures of normals and a sensor network localization problem.
- Abstract(参考訳): ハミルトニアン・モンテカルロ法(HMC)は、空間次元の増大に対して高い効率と良好な拡張性のために、非正規化対象密度からサンプルを引き出すために広く用いられている。
しかし、HMCは、ポテンシャルエネルギー関数(すなわち、擬似経路に沿った負の対数密度関数)の最大増加は、dが空間次元であるような$\chi_d^2$分布の半分に続く初期運動エネルギーによって制限されるため、ターゲット分布がマルチモーダルであるときに苦労する。
本稿では,ハミルトニアンモンテカルロ法を用いて,建設経路を高ポテンシャルエネルギー障壁を横断できる手法を提案する。
この方法は、事前にターゲット分布のモードを知る必要はない。
本手法では,ハミルトニアン経路が構築されている間,シミュレーション粒子の質量を連続的に変化させることで,ターゲット密度の孤立モード間を頻繁にジャンプすることができる。
したがって、この方法は hmc と tempered transitions method の組み合わせと考えることができる。
他のテンパリング法と比較して,本手法は各ステップでターゲット分布が変化するギブスサンプリング設定において顕著な優位性を有する。
本手法の実践的チューニング戦略を開発し,高次元マルチモーダル分布をターゲットとしたマルコフ連鎖を,正規分布とセンサネットワークの局所化問題を用いてグローバルに混合できることを示す。
関連論文リスト
- Repelling-Attracting Hamiltonian Monte Carlo [0.8158530638728501]
我々は、ハミルトニアンモンテカルロの変種(Repelling-Attracting Hamiltonian Monte Carlo (RAHMC))を提案する。
RAHMCには2つのステージがある: サンプルが高確率密度の領域から遠ざかるように促すモード推進段階と、サンプルが代替モードに近づいたり落ち着いたりするためのモード抽出段階である。
論文 参考訳(メタデータ) (2024-03-07T15:54:55Z) - Iterated Denoising Energy Matching for Sampling from Boltzmann Densities [111.90150190668555]
反復Denoising Energy Matching (iDEM)
iDEMは,拡散型サンプリング装置から高モデル密度のサンプリング領域を (I) 交換し, (II) それらのサンプルをマッチング目的に使用した。
提案手法は,全測定値の最先端性能を達成し,2~5倍の速さでトレーニングを行う。
論文 参考訳(メタデータ) (2024-02-09T01:11:23Z) - Gaussian Mixture Solvers for Diffusion Models [84.83349474361204]
本稿では,拡散モデルのためのGMSと呼ばれる,SDEに基づく新しい解法について紹介する。
画像生成およびストロークベース合成におけるサンプル品質の観点から,SDEに基づく多くの解法よりも優れる。
論文 参考訳(メタデータ) (2023-11-02T02:05:38Z) - Adaptive Annealed Importance Sampling with Constant Rate Progress [68.8204255655161]
Annealed Importance Smpling (AIS)は、抽出可能な分布から重み付けされたサンプルを合成する。
本稿では,alpha$-divergencesに対する定数レートAISアルゴリズムとその効率的な実装を提案する。
論文 参考訳(メタデータ) (2023-06-27T08:15:28Z) - Normalizing flow sampling with Langevin dynamics in the latent space [12.91637880428221]
正規化フロー(NF)は、連続生成器を使用して、単純な潜伏分布(例えばガウス分布)をトレーニングデータセットに関連する経験的対象分布にマッピングする。
標準NFは可微分写像を実装しているため、複雑な分布を対象とする場合、病理学的挙動に悩まされることがある。
本稿では,マルコフ連鎖モンテカルロアルゴリズムを提案する。
論文 参考訳(メタデータ) (2023-05-20T09:31:35Z) - Sampling with Mollified Interaction Energy Descent [57.00583139477843]
モーフィファイド相互作用エネルギー降下(MIED)と呼ばれる新しい最適化に基づくサンプリング手法を提案する。
MIEDは、モル化相互作用エネルギー(MIE)と呼ばれる確率測度に関する新しいクラスのエネルギーを最小化する
我々は,制約のないサンプリング問題に対して,我々のアルゴリズムがSVGDのような既存の粒子ベースアルゴリズムと同等に動作することを示す。
論文 参考訳(メタデータ) (2022-10-24T16:54:18Z) - GeoDiff: a Geometric Diffusion Model for Molecular Conformation
Generation [102.85440102147267]
分子配座予測のための新しい生成モデルGeoDiffを提案する。
GeoDiffは、既存の最先端のアプローチよりも優れているか、あるいは同等であることを示す。
論文 参考訳(メタデータ) (2022-03-06T09:47:01Z) - A blob method method for inhomogeneous diffusion with applications to
multi-agent control and sampling [0.6562256987706128]
重み付き多孔質媒質方程式(WPME)に対する決定論的粒子法を開発し,その収束性を時間間隔で証明する。
提案手法は,マルチエージェントカバレッジアルゴリズムや確率測定のサンプリングに自然に応用できる。
論文 参考訳(メタデータ) (2022-02-25T19:49:05Z) - Entropy-based adaptive Hamiltonian Monte Carlo [19.358300726820943]
ハミルトニアン・モンテカルロ(Hachian Monte Carlo, HMC)は、マルコフ・チェイン・モンテカルロ(MCMC)アルゴリズムの一種。
跳躍式積分器は一般にHMCの実装に使用されるが、その性能は質量行列の選択に敏感である。
我々は,跳躍フロッグ積分器を高い受入率で促進することにより,質量行列の適応を可能にする勾配に基づくアルゴリズムを開発した。
論文 参考訳(メタデータ) (2021-10-27T17:52:55Z) - Sampling in Combinatorial Spaces with SurVAE Flow Augmented MCMC [83.48593305367523]
ハイブリッドモンテカルロ(Hybrid Monte Carlo)は、複素連続分布からサンプリングする強力なマルコフ連鎖モンテカルロ法である。
本稿では,SurVAEフローを用いたモンテカルロ法の拡張に基づく新しい手法を提案する。
本稿では,統計学,計算物理学,機械学習など,様々な分野におけるアルゴリズムの有効性を実証し,代替アルゴリズムと比較した改良点を考察する。
論文 参考訳(メタデータ) (2021-02-04T02:21:08Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。